WORLDVIEWSIM に関する報道

この研究では、複数ラウンドのジェイルブレイク攻撃を 18 の定量化可能な心理的要因と状況コンテキスト モジュールに分類しています。これは、モデルのセキュリティ脆弱性が「偶然の発見」から「メカニズムの分析」に移行していることを意味します。このことから、現在主流の大型モデルには、構造化された複数ラウンドの心理的誘導に直面した場合に組織的な防御の死角があり、単一ラウンドの調整に頼って対処するのは困難であることが推測できます。