Evidence Sufficiency Boundary Training に関する報道

この研究では、マルチホップ QA モデルが証拠が不十分な場合は積極的に棄権し、証拠が十分な場合は回答し、境界反転マージンを通じて回答の安定性を確保できるトレーニング フレームワークを提案します。これは、AI の信頼性研究が「精度の向上」から「回答境界の調整」、つまり、いつ回答すべきではないかをモデルに学習させることに移行していることを示しています。