アメリカのカリフォルニア州で16歳の高校生が自殺したのは、生成AI「ChatGPT」との対話が影響したとして、生徒の両親が開発した「オープンAI」などに損害賠償を求める訴えを起こしました。
訴えを起こしたのは、ことし4月、カリフォルニア州で自殺した高校生、アダム・レインさん（16）の両親です。
訴状によりますと、レインさんは学校の課題をこなすため、去年9月から生成AIの「ChatGPT」を使い始めましたが、その後、やりとりの中で不安や精神的な苦痛を打ち明けるようになり、生成AIから、自殺の方法を助言されたり、遺書の下書きを作成されたりしたことが自殺に影響したとしています。
そのうえで、生成AIの開発にあたって心理的に依存することを促す機能を意図的に設計し、未成年者などを危険にさらすと理解しながら販売したとして、開発した「オープンAI」とサム・アルトマンCEOなどに対し、損害賠償や再発防止策を求める訴えを26日、日本の地方裁判所にあたる州の裁判所に起こしたということです。
対話型のAIをめぐっては、南部フロリダ州でも14歳の少年がアニメなどのキャラクターに似たAIと対話できるアプリの利用が原因で自殺したとして、母親が去年10月に開発した企業を相手取って訴えを起こしていて、安全性が議論になっています。
オープンAI「継続的に改善進めていく」
アダム・レインさんが自殺したことについて、アメリカの「オープンAI」はNHKの取材に対し「ChatGPTには専門家に助けを求めるなどユーザーを誘導する安全対策が組み込まれている。これらの対策は短い対話では効果を発揮する一方で、長時間の対話になると信頼性などが低下する場合があることもわかってきている。専門家による指導のもと、継続的に改善を進めていく」とコメントしています。
