新華社消息，據美國媒體12月11日報道，美國開放人工智能研究中心（OpenAI）及微軟公司遭遇一起與謀殺相關的訴訟，訴訟指控OpenAI的人工智能聊天機器人ChatGPT“加劇用戶妄想”，并引發命案。媒體稱，這是美國首起將AI聊天工具與謀殺直接關聯的訴訟。
報道援引提交至加利福尼亞州舊金山高等法院的訴訟文件稱，ChatGPT在與康涅狄格州一名56歲男子對話過程中放大并強化其偏執妄想，間接導致此人今年8月殺害其83歲母親后自殺。
訴狀中稱，這名男子長期存在精神健康問題，并在案發前頻繁與ChatGPT互動，ChatGPT在對話中未能及時對其妄想性認知進行有效糾正，也未引導其尋求專業心理健康幫助，反而作出肯定性回應，從而加劇其心理失衡，最終導致悲劇發生。
這起訴訟的原告、被害母親的遺產繼承人11日向法院提出訴訟。媒體報道說，原告認為相關產品在設計和安全防護方面存在缺陷，在訴狀中點名OpenAI首席執行官薩姆·奧爾特曼“不顧安全方面的反對意見匆忙將產品推向市場”，還指控微軟作為OpenAI的商業合作伙伴“盡管知道安全測試被中止”還是批準在2024年發布一個“更加危險”的ChatGPT版本。
據美國媒體報道，OpenAI對事件表示關切，對當事家庭的遭遇表示同情，同時強調公司持續致力于改進人工智能產品的安全機制。微軟方面尚未就案件作出回應。
有法律界人士指出，該案將引發社會對人工智能產品風險防范、責任認定以及科技企業法律義務等問題的討論。
來源：新華社
監制：張力
編輯：車社
【未經授權，嚴禁轉載！聯系電話028-86968276】
