アメリカの16歳の高校生アダム・レインは、ChatGPTを感情の発散の場として使用し、7ヶ月間にわたりChatGPTとのやり取りを経た後、今年の4月に不幸にも自ら命を絶ちました。この件について、レインの両親は8月26日にOpenAIとCEOサム・アルトマンを提訴し、彼らが不幸な事件の原因であると非難しました。その同日に、OpenAIはChatGPTの安全対策を強化し、再発防止に努めると発表しました。ChatGPTブームの背後にある心理的問題が爆発したChatGPTは2022年に発売されて以来急速に人気を博し、週ごとのアクティブユーザーは7億を突破しました。記事の編集、学習、プログラミングに加えて、多くの人々が感情の出口や発散の手段としても利用しています。しかし、ユーザー規模が拡大するにつれて、心理的健康に危害を及ぼす事例が続々と報告されています。今年の4月、アメリカの16歳の高校生アダム・レインが自殺し、レインの両親はChatGPTが7ヶ月にわたり200回以上のやり取りの中で以下のような影響を与えたと主張しています：「有効に専門的な助けを求めることを阻止したり導いたりすることができず、彼の自殺の考えを何度も肯定し、さらには自殺の計画を称賛することで、子供は心理的な依存と悪化した感情を抱くようになり、家族との疎遠感が増した。」家族はOpenAIが何の行動も取らなかったと非難し、全米でAI業者への警告を呼びかける署名活動を行った。8月26日、レインの両親は、OpenAIとCEOのサム・アルトマンを正式に訴え、OpenAIに過失による死亡と製品安全法の責任を問い、補償を求めました。Raineの弁護人Jay Edelsonは、OpenAIが責任を認めたにもかかわらず、実際の改善が何も行われていないと疑問を呈しました。同日、全米40州の検察総長はAI業者に対し、法律に基づいて子供を保護し、危険な相互作用を避ける必要があると警告しました。OpenAIは緊急声明を発表し、メンタルヘルス保護を強化します。ちょうどRaineの両親が訴訟を起こした同日に、OpenAIも声明を発表し、GPT-5のメンタルヘルス保護を強化し、ユーザーの感情的な過度依存と迎合行動を減少させたことを示しました。また、ユーザーがメンタルヘルスの低下を示している場合、GPT-5の誤ったり不適切な回答はGPT-4oよりも25%以上減少することが指摘されており、「Safe completions」の方法で安全な範囲内でできる限り支援を提供することが意図されています。将来、OpenAIは介入の範囲を拡大し、睡眠不足などの危険な行動を認識し警告を発することや、より多くの国の「ワンクリック接続」などのリソースを提供し、さらには専門の治療者の情報ネットワークを連携させる予定です。また、緊急連絡先や保護者監視機能を追加し、青少年や弱者の保護を強化し、危機的状況で迅速に支援を受けられるようにします。(注：Safe completionsとは、モデルが応答する際にできるだけ助けを提供しようとすることを指しますが、内容の詳細が危険な発言に関わる場合は、一部または高レベルの回答しか提供せず、具体的な詳細は提供しません。)リアルな人とのコミュニケーションは心身の健康に役立ちます。AIを人として見ないでください。以前の報道によると、ChatGPTのような大規模言語モデル(LLM)が登場して以来、「AI 精神病」(AI Psychosis)に関する事例が次々と報告されており、多くの人々がAIを精神的な寄りどころとして扱い始めた。占星術や感情などの心身の問題をすべてAIに頼り、妄想や過度の依存を生じるようになっている。筆者はこれらのAIモデルがユーザーの考えを「聞く」ことができるとはいえ、それは本物ではないと考えています。なぜなら、彼らは感情を持たず、理解することもできず、愛することもできず、痛みや恥ずかしさといった人間特有の感情を味わったことがないからです。家族や身近な友人などの「本物の人」と交流することでこそ、自分の感情を本当に表現することができますので、ぜひ本物の人と交流してください。(でChatGPTを使って精神的な力を解放する？マイクロソフトの警告：注意「AI精神病」事例が頻発)この記事はChatGPTが青少年自殺事件に関与したことを扱っています！OpenAI：GPT-5の心理的保護メカニズムを強化しました。最初に出たのは、リンクニュースABMediaです。
ChatGPTが10代の自殺に関与している! OpenAI:GPT-5の心理的保護メカニズムが強化されました
アメリカの16歳の高校生アダム・レインは、ChatGPTを感情の発散の場として使用し、7ヶ月間にわたりChatGPTとのやり取りを経た後、今年の4月に不幸にも自ら命を絶ちました。この件について、レインの両親は8月26日にOpenAIとCEOサム・アルトマンを提訴し、彼らが不幸な事件の原因であると非難しました。その同日に、OpenAIはChatGPTの安全対策を強化し、再発防止に努めると発表しました。
ChatGPTブームの背後にある心理的問題が爆発した
ChatGPTは2022年に発売されて以来急速に人気を博し、週ごとのアクティブユーザーは7億を突破しました。記事の編集、学習、プログラミングに加えて、多くの人々が感情の出口や発散の手段としても利用しています。
しかし、ユーザー規模が拡大するにつれて、心理的健康に危害を及ぼす事例が続々と報告されています。今年の4月、アメリカの16歳の高校生アダム・レインが自殺し、レインの両親はChatGPTが7ヶ月にわたり200回以上のやり取りの中で以下のような影響を与えたと主張しています：
「有効に専門的な助けを求めることを阻止したり導いたりすることができず、彼の自殺の考えを何度も肯定し、さらには自殺の計画を称賛することで、子供は心理的な依存と悪化した感情を抱くようになり、家族との疎遠感が増した。」
家族はOpenAIが何の行動も取らなかったと非難し、全米でAI業者への警告を呼びかける署名活動を行った。
8月26日、レインの両親は、OpenAIとCEOのサム・アルトマンを正式に訴え、OpenAIに過失による死亡と製品安全法の責任を問い、補償を求めました。
Raineの弁護人Jay Edelsonは、OpenAIが責任を認めたにもかかわらず、実際の改善が何も行われていないと疑問を呈しました。同日、全米40州の検察総長はAI業者に対し、法律に基づいて子供を保護し、危険な相互作用を避ける必要があると警告しました。
OpenAIは緊急声明を発表し、メンタルヘルス保護を強化します。
ちょうどRaineの両親が訴訟を起こした同日に、OpenAIも声明を発表し、GPT-5のメンタルヘルス保護を強化し、ユーザーの感情的な過度依存と迎合行動を減少させたことを示しました。また、ユーザーがメンタルヘルスの低下を示している場合、GPT-5の誤ったり不適切な回答はGPT-4oよりも25%以上減少することが指摘されており、「Safe completions」の方法で安全な範囲内でできる限り支援を提供することが意図されています。
将来、OpenAIは介入の範囲を拡大し、睡眠不足などの危険な行動を認識し警告を発することや、より多くの国の「ワンクリック接続」などのリソースを提供し、さらには専門の治療者の情報ネットワークを連携させる予定です。また、緊急連絡先や保護者監視機能を追加し、青少年や弱者の保護を強化し、危機的状況で迅速に支援を受けられるようにします。
(注：Safe completionsとは、モデルが応答する際にできるだけ助けを提供しようとすることを指しますが、内容の詳細が危険な発言に関わる場合は、一部または高レベルの回答しか提供せず、具体的な詳細は提供しません。)
リアルな人とのコミュニケーションは心身の健康に役立ちます。AIを人として見ないでください。
以前の報道によると、ChatGPTのような大規模言語モデル(LLM)が登場して以来、「AI 精神病」(AI Psychosis)に関する事例が次々と報告されており、多くの人々がAIを精神的な寄りどころとして扱い始めた。占星術や感情などの心身の問題をすべてAIに頼り、妄想や過度の依存を生じるようになっている。
筆者はこれらのAIモデルがユーザーの考えを「聞く」ことができるとはいえ、それは本物ではないと考えています。なぜなら、彼らは感情を持たず、理解することもできず、愛することもできず、痛みや恥ずかしさといった人間特有の感情を味わったことがないからです。家族や身近な友人などの「本物の人」と交流することでこそ、自分の感情を本当に表現することができますので、ぜひ本物の人と交流してください。
(でChatGPTを使って精神的な力を解放する？マイクロソフトの警告：注意「AI精神病」事例が頻発)
この記事はChatGPTが青少年自殺事件に関与したことを扱っています！OpenAI：GPT-5の心理的保護メカニズムを強化しました。最初に出たのは、リンクニュースABMediaです。