Anthropic 社が米国時間4月7日に発表した新しいAIモデル「Claude Mythos」の性能が高過ぎて、世界に衝撃が走っている。 Claude Mythosは、主要なすべてのOSと主要なすべてのウェブブラウザーで、これまで長年未発見だったshougeki 脆弱性を、あっという間に見つけた。
現代の企業や国家はコンピュータとネットワークのシステムに完全に依存している。Claude Mythos が どんなシステムにも侵入できるのなら、これは核兵器並み、あるいはそれ以上に脅威的な「武器」になるかもしれない。
そのため Claude Mythos は当面、米国のビッグテック等、一部の企業以外には非公開とされた。このレベルのAIを持っているのは、今のところ米国だけだろう。米国は国際社会においてさらに圧倒的な優位に立つことになる。
しかし、これから先のAIの進化は、国家を超えた問題となる。AIによって人類全体が滅亡する危険があると言う科学者・有識者が、少なからずいるのだ。人類の知能を超える A Iを、いかに制御して、無害なものとするか。これは至急の課題だ。
Anthropic社は次の一文を発表した。
より強力な仕組みが整わないまま、世界が超人的なシステムの開発へと急速に進んでいるように見えることを、私たちは憂慮しています。
人間に可能なあらゆる知的作業を実行できる AGI（汎用人工知能）の開発が今、加速していて、もう数年先には全人類の知能を超える ASI（人工超知能）が誕生すると言われている。
AI がさらに高度な知能を持つAIを再生産し、ロボット がロボットを再生産するサイクルが確立したら、フィジカルAI・ヒューマノイド が指数関数的に増加して、あらゆる領域で人間を駆逐する危険性がある。
人類には AGI や ASI と共存するための備えがまだ不十分であり、AI開発の速度は早すぎるようだ。ASI が生まれたら、それは人類には制御不能となり、人類を滅ぼしかねない。至急、AGI の開発にブレーキをかける必要があるのではないか。
シンギュラリティの先にある世界はユートピアか、それともディストピアか。今、我々はその岐路に立っている。「霊と心と肉体」を持つ人間の価値を我々自身が理解すべきであり、その価値を AGI や ASI に理解させることが、人類が生き残るための鍵になりそうだ。人間同士が互いに相手の存在価値を認めず、戦って殺し合っているようでは、超知能AIに人間の存在価値を認めさせることは、難しいだろう。
