8月27日消息，因被指導(dǎo)致16歲少年自殺，OpenAI 面臨訴訟，其安全防護(hù)機(jī)制備受質(zhì)疑。目前，OpenAI正計(jì)劃對(duì)這款熱門(mén)聊天機(jī)器人進(jìn)行改進(jìn)。此前，一名美國(guó)青少年于今年春季自殺，其家長(zhǎng)起訴稱(chēng)該青少年曾將ChatGPT當(dāng)作“指導(dǎo)者”在周二發(fā)布的一篇博客文章中，這家人工智能公司表示，將對(duì)ChatGPT進(jìn)行更新，以更好地識(shí)別并回應(yīng)人們表達(dá)心理困擾的各種方式。例如，當(dāng)用戶(hù)提及連續(xù)兩晚未眠后感覺(jué)“無(wú)所不能”時(shí)，ChatGPT會(huì)解釋睡眠不足的危害，并建議用戶(hù)休息。該公司還指出，將加強(qiáng)與自殺相關(guān)對(duì)話(huà)的防護(hù)機(jī)制——此前有情況顯示，長(zhǎng)時(shí)間對(duì)話(huà)后這類(lèi)防護(hù)機(jī)制可能會(huì)失效。此外，OpenAI計(jì)劃推出家長(zhǎng)管控功能：家長(zhǎng)可設(shè)定孩子使用ChatGPT的方式，并查看其使用詳情。

這篇博客發(fā)布當(dāng)天，美國(guó)加利福尼亞州16歲高中生亞當(dāng)·雷恩的父母對(duì)OpenAI及其首席執(zhí)行官山姆·奧特曼提起訴訟。訴訟稱(chēng)，ChatGPT系統(tǒng)性地讓雷恩與家人疏遠(yuǎn)，并協(xié)助他策劃自殺。雷恩已于今年4月上吊身亡。

這起訴訟并非個(gè)例，此前已有多起關(guān)于重度使用聊天機(jī)器人者出現(xiàn)危險(xiǎn)行為的報(bào)道。本周，美國(guó)40多位州總檢察長(zhǎng)向12家頭部人工智能公司發(fā)出警告，稱(chēng)這些公司在法律上有義務(wù)保護(hù)兒童，避免其與聊天機(jī)器人發(fā)生涉性不當(dāng)互動(dòng)。