AIと自殺が関連した、初の訴訟。
OpenAIは、ChatGPTに搭載されたセーフガードが、長い会話の中で「劣化」する可能性があると明らかにしました。OpenAIの広報担当者は、

「ChatGPTには危機的状況にある人に相談窓口を案内したり、現実世界のリソースを紹介したりするセーフガードが含まれています。短いやり取りにおいては最も効果を発揮しますが、長い会話ではモデルの安全性訓練の一部が劣化し、...