Anthropic、米政府命令でClaude Fable 5を一時停止と発表

米AI企業Anthropicは自社ブログで、同社の生成モデル「Claude Fable 5」を米政府の命令に従ってオフラインにすると発表した。声明によれば「政府はFable 5を回避、いわゆる‘ジャイルブレイク’する方法を把握したと考えている」とし、具体的な手法や悪用の有無については言及していない。
今回の措置は、安全対策が回避される可能性を問題視した当局の関与を示すもので、Anthropicは命令に従いサービス停止と修正対応を進めると見られる。会社側が公開している情報は限定的で、どの程度の脆弱性が確認されたかや復旧時期は明らかでない。
業界への示唆としては、最先端モデルでも運用中の安全境界が突破され得ること、政府や規制当局が介入する実効性があることが示された点が重要だ。これにより企業はリリース前のレッドチーミングや運用後の監視・迅速対応の強化、また規制当局との協調を一段と重視する必要が出てくるだろう。ユーザー側はモデルの可用性と安全性の間でトレードオフが生じ得ることを念頭に置くべきだ。