In-Context Learning に関する報道

SALA の核心は、柔軟な調整のための DTW を使用して、推論ロジックのマッチングを離散ルール空間から連続セマンティック空間に移行することです。これは、ICL デモンストレーションの選択が固定された推論テンプレートに依存しなくなり、より普遍的な推論構造を学習して、複雑な推論に対するより柔軟な検索戦略を提供できることを意味します。

この論文では、正則化を使用して注意感度を幾何学的上限に近づけていますが、行動 ICL が依然として低下している場合、それは注意エージェントが行動評価を置き換えることができないことを意味します。これは、ICLを維持するための微調整の検証では、単に注意力の変化に注目するのではなく、行動の正確さの差を取り戻す必要があることを示唆しています。