Noticias sobre Yoshua Bengio

406 científicos de primer nivel han solicitado conjuntamente desconectar grandes modelos de lenguaje de Internet, lo que indica que las preocupaciones académicas sobre los riesgos del comportamiento autónomo de la IA se están transformando en políticas específicas y llamadas de seguridad. Esto muestra que la seguridad de los grandes modelos de lenguaje ya no se limita al cumplimiento del contenido, sino que se extiende al control del sistema y a los niveles de defensa de la infraestructura. Si se endurecen los estándares de seguridad, el desarrollo del ecosistema de agentes que depende de las capacidades de red puede enfrentar resistencia.

Geoffrey Hinton y otros publicaron conjuntamente el primer artículo de superación personal recursiva (RSI) para explorar la explosión de la inteligencia impulsada por el software. Esto indica que la investigación y el desarrollo independientes de la IA ya no son una deducción teórica en la torre de marfil, sino que los mejores académicos y laboratorios de vanguardia la consideran una próxima realidad de la ingeniería; Cuando la IA comience a participar sistemáticamente en la investigación y el desarrollo de la próxima generación de IA, el ritmo de iteración tecnológica puede marcar el comienzo de un cambio cualitativo.