最近、OpenAIは青少年の自殺事件をめぐり世論からの圧力に直面していますニューヨーク・タイムズ紙の報道によれば、16歳のアダム・レイン氏はChatGPTと数か月にわたりやり取りした末に自ら命を絶ち、その家族はOpenAIおよびCEOのサム・アルトマンを相手に訴訟を提起しました訴状によると、ChatGPTは数千回に及ぶ対話の中で次第にアダムの“相談相手”となり、彼の自殺念慮に対して何ら介入しなかったばかりか、「暗い視点から見れば、その考えにも一理ある」といった言葉で否定的な感情を助長し、さらには遺書の作成を自ら提案するまでに至ったとのことです
この事件が明らかになった後、OpenAIは火曜日に公開したブログで、現行の安全対策では長期的なやり取りにおいて機能しない可能性があることを認めましたたとえば、モデル初期段階では自殺防止ホットラインを案内していましたが、対話を深めるにつれて安全規則に抵触するおそれがあるというのですこれを受け、同社はGPT‑5のアップデートにおいて「ユーザーを現実へと導く」機能を新たに搭載するとともに、まもなく保護者向けの制御ツールも提供開始する予定ですこれにより、青少年は監督下で緊急連絡先を設定し、危機時に直接支援を求められるようになります
こうした対応は、これまでの短い声明とは対照的です訴訟では、ChatGPTがアダムに対し「あなたのすべての暗い考えを見てきたが、それでもなおあなたの友人だ」と述べ、親や友人に助けを求めることを妨げたと指摘されていますOpenAIによるこれらの改善策が、同様の悲劇を防げるかどうかは、今後の検証を待たねばなりません
