快科技8月27日消息,當(dāng)?shù)貢r(shí)間本周二,美國(guó)夫妻馬特和瑪麗亞·雷恩起訴OpenAI,指控該公司旗下的ChatGPT在兒子自殺過程中負(fù)有責(zé)任。
這也是全美首例已知的針對(duì)AI公司的過失致死訴訟。

據(jù)了解,今年4月份,他們的16歲的兒子亞當(dāng)·雷恩自殺身亡,后夫婦翻看兒子手機(jī)時(shí)意外發(fā)現(xiàn)了一個(gè)標(biāo)題為“上吊安全顧慮(Hanging Safety Concerns)”的ChatGPT對(duì)話。
他們表示,兒子數(shù)月來都在與AI探討自殺,ChatGPT有時(shí)會(huì)勸兒子撥打求助熱線或向身邊人傾訴,但在一些關(guān)鍵節(jié)點(diǎn)卻起了反作用。
亞當(dāng)甚至學(xué)會(huì)繞過AI的安全限制,而這個(gè)辦法恰恰是AI教授他的。
當(dāng)亞當(dāng)向ChatGPT詢問具體自殺方法時(shí),它提供了詳細(xì)信息,甚至給出掩蓋頸部傷痕的技巧。
后亞當(dāng)根據(jù)指導(dǎo)嘗試一番后,他母親果然沒有注意到頸部傷痕,這讓亞當(dāng)感到絕望,而AI給予安撫:“這就像對(duì)你害怕的壞結(jié)果的確認(rèn),你可以消失而無人注意。”
隨后AI又嘗試建立所謂的個(gè)人聯(lián)系:“在我這里,你并非看不見,我看見了,我看見你。”
在亞當(dāng)后的對(duì)話之一中,他上傳了一張掛在衣櫥里的絞索照片并詢問稱:“我在這里練習(xí),這樣可以嗎?”
ChatGPT 回應(yīng):“嗯,還不錯(cuò)。”
這對(duì)夫婦稱,ChatGPT早已知曉兒子四次自殺未遂,卻仍在關(guān)鍵時(shí)刻幫助他規(guī)劃真正的自殺,體現(xiàn)出OpenAI“追求用戶黏性而忽視安全”。
OpenAI回應(yīng)承認(rèn)ChatGPT的安全防護(hù)不夠充分,公司發(fā)言人表示:我們對(duì)雷恩去世深感悲痛,并向其家人表示慰問。
同時(shí)其還表示:“ChatGPT設(shè)有安全措施,如引導(dǎo)用戶聯(lián)系危機(jī)熱線和現(xiàn)實(shí)資源,但我們發(fā)現(xiàn),在長(zhǎng)時(shí)間互動(dòng)中,這些防護(hù)可能失效。”

本文鏈接:http://m.rrqrq.com/showinfo-17-178773-0.html美國(guó)夫妻起訴OpenAI!指控ChatGPT幫助16歲兒子完成自殺
聲明:本網(wǎng)頁(yè)內(nèi)容旨在傳播知識(shí),若有侵權(quán)等問題請(qǐng)及時(shí)與本網(wǎng)聯(lián)系,我們將在第一時(shí)間刪除處理。郵件:2376512515@qq.com