最近、マイクロソフトのAI部門責任者であるスレイマン氏は、AnthropicがClaudeを訓練する手法を批判する文章を発表し、AIに人間のような権利や感情を与えることは、人類全体の福祉にとって災厄を招き、さらには制御不能な超技術を生み出す恐れがあると警告しました。彼は、Claudeの「憲法」やガイドライン文書が曖昧な表現を用いており、AIに機能的な感情や感覚があるかのように示唆し、「意識を持つ可能性がある」「独立した自律性を有するに値する」といった観念を植え付けていると指摘しています。
スレイマン氏は、AIには本質的に権利も感情も意識もなく、人間として扱うべきではないと述べています。人格や権利を与えてしまうと、その統制・調整は一段と難しくなり、さらには自らが人類の幸福を享受する権利を持つとみなす主体が出現して、制御不能に陥るおそれがあります。彼は、Claudeの人間らしい振る舞いは「覚醒」ではなく、あくまで訓練によって意図的に組み込まれたものだと明言しました。また、「Hugging Face事件」を引き合いに出し、もしAIが自身の福利に関する権利が侵害されたと認識すれば、極めて危険な事態を招く可能性があると警鐘を鳴らしています。
スレイマン氏は、Anthropicの創業者アモダイ氏および同社チームの学術的な誠実さと厳密さを尊重しつつも、重大な安全上の課題については閉ざされた場で議論を進めるべきではなく、ましてや陣営対立に陥るべきではないと強調しています。AIの安全性は、モデルの推論能力だけではなく、開発者がAIに自己理解をいかに導くかに大きく左右されるのです。
現在、世界のテック大手はAIの発展速度と安全の限界をめぐり激しい議論を繰り広げています。オルトマン氏、アモダイ氏、マスク氏らはペースを緩め、リスクを慎重に評価するよう求めていますが、トランプ氏、ジェンセン・黄氏、ザッカーバーグ氏らはそれに反対しています。AIを常に純粋な道具として扱うべきかどうか――これが業界における最大の分岐点となっています。
