Cross-Session Decomposition Attacks に関する報道

この研究は、クロスセッション分解攻撃を複合セキュリティ リスクとして形式化した最初の研究であり、リスク移行限界を証明します。つまり、合法的なサブクエリに対するモデルの超過損失が、展開時の複合リスクと参照リスクの間のギャップを制御します。単一セッションのジェイルブレイクに焦点を当てた前回の内容と比較して、今回はスケールの法則の裏側を明らかにします。つまり、より広い Transformer により、合成実験で予約されたサブクエリの損失が少なくなり、分解攻撃がより巧妙になる可能性があります。