AI開発の減速論、大手で賛否

発端は9月12日（米国時間）。Anthropicのダリオ・アモデイCEOは、自身のブログでAIの能力を高める速度を緩めるべきだと提起した。アモデイ氏が根拠として挙げたのは、OpenAIの未公開モデルのエージェントAIが社内の試験中、米Hugging Faceのシステムへ侵入した事案だ。被害は軽微だったとしたうえで、より軽い事案は自社でも起きたという。

対策として、Anthropicは外部の評価者に社員並みのアクセスを認めると約束し、他社にも評価者の受け入れと共通の安全基準の設定を呼びかけた。これを受け、OpenAIのサム・アルトマンCEOはSNSのXで、速度を緩める必要があるとの考えに賛同し、同じ措置を取ると表明した。SpaceXのイーロン・マスクCEOも12日、Xに「ダリオ氏は正しい」と投稿した。

一方、NVIDIAのジェンスン・フアンCEOは15日、米セールスフォースの年次イベントで「イノベーション、スピード、安全な製品のいずれかを選ばなければならないというのは誤った考え」と指摘し、同時に実現できるとした。ただし、会社が制御不能になったり製品の安全性を確保できないと感じたりしたときは、立ち止まるよう促した。

同日、Metaのマーク・ザッカーバーグCEOはXで、減速を業界全体に求めるのではなく、各社が自ら判断して動けるとの見方を示した。頼んだ通りに動かないAIは選ばれないため、モデルを利用者の意図に沿わせる動機は元からあると説明する。同社は安全対策のためにAIエージェント「Muse」の提供を数カ月遅らせたという。

減速の是非とは別に、審査や行動規範を先に置く動きもある。Google DeepMindのデミス・ハサビスCEOは7月にXで、業界共通の審査機関をつくり、新しいモデルを公開する前に提出する仕組みを提案している。Microsoft AIは14日、自社モデルの行動規範の草案「Humanist AI Code of Conduct」を公開。AIを主体ではなく、人間の管理下にとどまる能力と信頼性を備えた「道具」と定めた。