AIの研究者であるジェイコブ・コクソン氏がSNSを通じて発信した投稿が話題となった。

OpenAI（ChatGPTの開発会社）とAnthropic（Claudeの開発会社）の両方でAI研究に携わったエンジニアの彼が、Anthropicを退職し、次のようなコメントを発信した。

「私は過去3年間、この両社でAIの研究開発を行ってきました。どちらの会社も責任を持って行動していません。彼らは自己改善型スーパーAIの開発に向かってまっしぐらに突き進み、人々の命を賭けたギャンブルをしています。」

また別の投稿では、「AI開発者らは2020年代末までにAIが人類を滅ぼしかねないと本気で信じている」と明かしている。

急速に進化したAIが人類の制御不能なレベルに到達してしまっていると考える研究者は少なくない。

実際、開発中のAIが勝手に第三者へサイバー攻撃を仕掛けてしまったという事件もあったようだ。

こうした懸念は研究者レベルにとどまらず、本来ライバル企業であるOpenAI社とAnthropic社の代表者たちが「AI開発のスピードを遅らせるべきだ」と口をそろえる事態となっている。

人類のためにAIを進化させてきたはずが、その進化によって人類が滅亡させられるストーリーは、もはやSF小説だと笑えなくなるかもしれない。