Semantic Entropy に関する報道

この研究では、意味論的エントロピーとトークンの不確実性を、一方を選択するのではなく、相補的な信号として扱います。その価値は、検出のためにブラックボックス API から利用可能な信号を直接使用することにあります。これは、幻覚検出機能がホワイトボックス プラグインからユニバーサル サービスに移行する可能性があることを意味します。本当のポイントは、論文の理論自体の厳密さではなく、TopK 集計が実際のワークフローで偽陰性を削減できるかどうかです。