Activation Steering に関する報道

研究者らは、チャット テンプレートが大規模な言語モデルの自己参照イントネーションを切り替える可能性があり、これが大規模な言語モデルの自己認識とセキュリティに影響を与える可能性があることを発見しました。研究者らは、活性化ブートストラップを使用してモデルの内部表現を分析し、チャット テンプレートの存在によって大規模言語モデルの自己参照的なトーンが増加する一方、チャット テンプレートの不在によってこのトーンが減少することがわかりました。