Yoshua Bengio に関する報道

406 人のトップ科学者が共同で大規模な言語モデルをインターネットから切り離すことを要求し、自律型 AI の動作のリスクに関する学術的な懸念が特定のポリシーとセキュリティの要求に変わりつつあることを示しています。これは、大規模な言語モデルのセキュリティがコンテンツのコンプライアンスに限定されず、システム制御およびインフラストラクチャ防御レベルにまで拡張されていることを示しています。セキュリティ基準が強化されると、ネットワーク機能に依存するエージェント エコシステムの開発が抵抗に直面する可能性があります。

Geoffrey Hinton らは、ソフトウェアによるインテリジェンスの爆発を調査するための初の再帰的自己改善 (RSI) 論文を共同で発表しました。これは、AI に依存しない研究開発がもはや象牙の塔の理論上の演繹ではなく、一流の学者や最先端の​​研究機関によって今後のエンジニアリングの現実として見なされていることを示しています。 AI が次世代 AI の研究開発に体系的に参加し始めると、技術の反復速度が質的な変化を引き起こす可能性があります。