Articles sur Geoffrey Hinton

406 scientifiques de haut niveau ont demandé conjointement la déconnexion des grands modèles de langage d'Internet, ce qui montre que les préoccupations académiques concernant les risques du comportement autonome de l'IA se transforment en appels politiques et de sécurité spécifiques. Cela montre que la sécurité des grands modèles de langage ne se limite plus à la conformité du contenu, mais s'étend aux niveaux de contrôle du système et de défense de l'infrastructure. Si les normes de sécurité sont renforcées, le développement d’un écosystème d’agents reposant sur des capacités de réseau pourrait se heurter à des résistances.

Geoffrey Hinton et d'autres ont publié conjointement le premier article d'auto-amélioration récursive (RSI) pour explorer l'explosion de l'intelligence pilotée par les logiciels. Cela montre que la recherche et le développement indépendants en matière d’IA ne sont plus une déduction théorique dans la tour d’ivoire, mais sont considérés par les plus grands universitaires et les laboratoires de pointe comme une réalité technique à venir ; Lorsque l’IA commencera à participer systématiquement à la recherche et au développement de la prochaine génération d’IA, le rythme des itérations technologiques pourrait ouvrir la voie à un changement qualitatif.