「教皇のAI顧問」パオロ・ベナンティ、巨大ラボの『カルテル』的振る舞いを警戒

教皇のAI顧問を務めるパオロ・ベナンティ氏がWIREDの取材で、いわゆる“神のようなAI”が人類を滅ぼすかもしれないというヒステリックな議論が、技術の統治についての公的な討論をそらしていると指摘した。ベナンティ氏は特に、大手研究所・企業による連携や支配的な振る舞い（記事は“カルテル”と表現）を懸念しており、その動きが透明性や説明責任を損ないかねないと警告している。

この記事が示すのは、リスク論のセンセーショナリズムがどのように政策課題を見えにくくするかという点だ。極端な滅亡シナリオに注目が集まると、意図的にではないにせよ、企業間の合意や標準設定が事実上のルール形成を行ってしまい、民主的な検討や規制の機会が失われる可能性がある。

業界への示唆としては、冷静で公開的な議論と多様な利害関係者を巻き込むガバナンス設計の重要性が改めて浮かび上がる。過剰な恐怖に基づく政策や、少数の大手による事実上の支配が先に進むことを避けるため、透明性と説明責任を高める仕組みづくりが求められるだろう。