METR に関する報道

Anthropicは、外部のセキュリティ機関に内部のアクセス権を与え、評価結果を独立して公開することを許可することで、AI業界のセキュリティガバナンスが、内部の自己監視から第三者の透明な監視へと移行していることを意味する。この信頼メカニズムの確立は、研究所と独立したセキュリティ機関の関係を変えるだけでなく、大規模モデルが規制圧力に直面する際の新しい業界のパラダイムとなる。

Anthropicが非営利団体のMETRに自社のAIモデルへの内部アクセスを許可したことは、トップクラスのLLMラボにおける安全ガバナンスが、企業の自己誓約から検証可能な第三者による独立監査へと移行しつつあることを意味しています。このような実践は、モデルの透明性を高めるだけでなく、業界の将来のコンプライアンス規制に向けた新たなパラダイムを構築するものでもあります。

Anthropicは、透明性とアカウンタビリティを向上させるための措置を講じており、METRの研究者に内部情報へのアクセスを許可し、METRによる評価の公開を阻止する権利を放棄した。これは、Anthropicが信頼と信用の構築に向けて取り組んでいることを示している。