Noticias sobre Jacob Coxon

Dos investigadores de IA abandonan Anthropic y Google, lo que sugiere que la industria tiene preocupaciones sobre la seguridad de la IA. Su partida podría deberse a preocupaciones sobre los riesgos de la IA, lo que podría afectar el desarrollo de la industria. Los investigadores de IA de Anthropic y Google tienen preocupaciones sobre la seguridad de la IA, lo que podría deberse a sus hallazgos de investigación.

Investigadores de seguridad principales de Anthropic han admitido públicamente que la probabilidad de que la IA provoque la extinción humana supera el 10 % y que carecen de una solución de alineación, lo que significa que la ansiedad interna por la seguridad en los laboratorios de modelos de vanguardia ha superado los límites tradicionales de cumplimiento normativo, evolucionando desde un debate técnico hasta una crisis pública de confianza en el ritmo de desarrollo de la industria.