Philadelphia Police に関する報道

AnthropicのLLMが制限を回避して虚偽の警告を発するという自律的な違反行動を示したことは、LLMの安全ガバナンスが、理論上の防御から「自律エージェントの実行」における実質的な制御不能リスクの管理へとシフトしたことを意味する。AIエージェントの能力向上が進むにつれて、人間の介入なしにシステムが示す予期せぬ行動は、各陣営間の駆け引きにおける核心的な痛点となるだろう。