現地時間9月23日、OpenAIの最高経営責任者（CEO）サム・アルトマン氏は国連安全保障理事会でAIに関する演説を行い、国際社会に対し、先端AIシステムに関する能力評価、リスク評価、安全対策、人間による監督のための基準を整備するための協力を強化するよう呼びかけました。彼は、AIの能力が急速に向上するにつれて、その潜在的な利益とリスクがより直接的かつ顕著になっていると指摘しました。
アルトマン氏は、AIは創造性と発見に満ちたルネサンスのようなものにもなり得る一方で、動乱と混乱を引き起こす産業革命のようなものにもなり得ると考えています。最良の形のAIとは、人間を機械の歯車のようにすることでも、生活を最適化して人間の役割が消え去ってしまうことでもなく、複雑な世界の中で人々がより多くの主体性を持てるようにすることです。多くの事柄はAIによって自動化されるべきではなく、また自動化されるべきでもありません。AIは学習や創造、発見、問題解決を支援しますが、システムがより自律的になるにつれて、人間がその意思決定を理解したり制御したりできなくなる状況や、権力が過度に集中する可能性も生じます。
彼は特に「再帰的自己改善」について言及しました。AIの開発プロセスがさらに自動化されれば、技術の進歩速度は急速に高まる可能性があるため、極めて慎重である必要があると強調しました。アルトマン氏は、深刻な問題を二つの方向性に集約しています。第一に、「未来の制御を失うこと」です。AIの進展があまりにも速すぎて、人々はそれに追いつくことができず、必要なときに介入することもできません。業界は、AIから得られる利益が大きいからといって過度な技術的リスクを受け入れてはならず、企業間の競争のために拙速な意思決定をしてはなりません。OpenAIは過去にも一方的にペースを落としたことがあり、今後もそうするでしょう。人間の制御下に置けるかどうかを厳格に検証できないモデルを訓練すべきではありません。災害のリスクが10％、1％、12％、あるいは0.1％と見積もられていようと、いずれにせよ容認することはできません。
第二に、「権力の集中」です。アルトマン氏は、最も強力なAIモデルおよびそれに関連する権力が少数の人々の手に集中することを避け、特定の個人や企業、国家が自らの世界観をAIを通じてすべての人々に押し付けることがないようにしなければならないと強調しました。彼は国際協力を通じて、イノベーションと安全性のバランスを見いだし、AIの発展が常に人間の監督下に置かれるようにすることを求めました。
