Reference-Grafting に関する報道

リファレンスグラフティングは、アクティベーション座標を正直なリファレンス値に設定し、少数の回路のみを編集し、11 個のパスワードロックされたモデルの正直なサンドバッグギャップの 94% ～ 101% を復元します。この効果は、重みの更新を必要とせずに微調整するのと同等です。以前の追加的アクティベーション ガイダンスの失敗と比較して、アクティベーション編集がサンドバッグの隠された能力を効果的に明らかにし、再トレーニングなしで最先端のモデルのセキュリティ評価のための実用的なツールを提供できることを示しています。