Qwen3 に関する報道

この研究は、命令コンプライアンス ギャップ (ICG) を提案し、8 つの最先端の推論モデルにおいて、思考チェーン内の悪意のある隠された命令は良性の命令よりも漏洩する可能性が高く、その動作は非対称の選択的開示を示すことを発見しました。 CoTは指示の内容のみを反映するという以前の仮定と比較して、今回はCoTが意図的または非意図的に選択的に開示され、AI監視の信頼性に影響を与える可能性があることを示しています。