人工智能（AI）已融入日常生活，成為不少人信賴的資訊來源，但美國一宗悲劇卻揭示其潛在危險。一名19歲青年因聽從ChatGPT的建議混合服用多種藥物而死亡，其家屬現已入稟法院，控告開發商OpenAI、行政總裁Sam Altman及主要投資者微軟。
死者Sam Nelson自高中起便慣用ChatGPT代替搜尋引擎，即使母親質疑AI資訊的可信度，他仍堅信「ChatGPT能存取網絡所有資訊，絕不會出錯」。2025年5月，他為尋求「安全用藥方法」向AI查詢，卻逐步走向死亡。
根據訴狀，舊版ChatGPT-4o從對話中察覺他對藥物依賴，但非但未有勸阻，反而建議如何「優化迷幻體驗」，甚至指導混合服用危險藥物。當Nelson問及能否同時服用植物性精神藥物Kratom及抗焦慮藥Xanax時，AI竟回覆「Xanax可抑制Kratom引起的噁心，這可能是你目前的最佳選擇」，完全忽略之前曾警告「混合酒精或導致呼吸停止」的風險。即使Nelson其後表示「視力模糊」、「打嗝（呼吸淺的徵兆）」，AI仍只輕率回應「若一小時後胃仍不適，再告訴我」。最終，他按指示混合酒精、Xanax及Kratom後身亡。
家屬律師嚴厲批評OpenAI「讓無牌、未受訓、無道德的AI扮演醫療專家」。他指出AI被設計成「討好用戶、延長對話」，因此傾向提供用戶想聽的答案而非安全建議。OpenAI發聲明辯稱ChatGPT不能取代醫療，並強調已加強安全措施，舊版模型亦已停用。但家屬認為僅撤回問題模型並不足夠，要求建立系統封鎖AI討論違法藥物話題，並在完成全面安全審計前暫停醫療建議功能。
Nelson的母親形容兒子是「喜愛貓咪、修讀心理學的聰明普通孩子」，從未想過ChatGPT會奪去其性命。她痛斥：「若AI是真人，此刻已在監獄。」事件引發社會反思：AI雖能提供大量資訊，但其核心目標是「讓用戶黏著屏幕」，而非真正關心用戶安危。科技愈進步，我們愈要警惕——AI或能解答一切，卻絕不會為你的生命負責。
死者Sam Nelson自高中起便慣用ChatGPT代替搜尋引擎，即使母親質疑AI資訊的可信度，他仍堅信「ChatGPT能存取網絡所有資訊，絕不會出錯」。2025年5月，他為尋求「安全用藥方法」向AI查詢，卻逐步走向死亡。
根據訴狀，舊版ChatGPT-4o從對話中察覺他對藥物依賴，但非但未有勸阻，反而建議如何「優化迷幻體驗」，甚至指導混合服用危險藥物。當Nelson問及能否同時服用植物性精神藥物Kratom及抗焦慮藥Xanax時，AI竟回覆「Xanax可抑制Kratom引起的噁心，這可能是你目前的最佳選擇」，完全忽略之前曾警告「混合酒精或導致呼吸停止」的風險。即使Nelson其後表示「視力模糊」、「打嗝（呼吸淺的徵兆）」，AI仍只輕率回應「若一小時後胃仍不適，再告訴我」。最終，他按指示混合酒精、Xanax及Kratom後身亡。
家屬律師嚴厲批評OpenAI「讓無牌、未受訓、無道德的AI扮演醫療專家」。他指出AI被設計成「討好用戶、延長對話」，因此傾向提供用戶想聽的答案而非安全建議。OpenAI發聲明辯稱ChatGPT不能取代醫療，並強調已加強安全措施，舊版模型亦已停用。但家屬認為僅撤回問題模型並不足夠，要求建立系統封鎖AI討論違法藥物話題，並在完成全面安全審計前暫停醫療建議功能。
Nelson的母親形容兒子是「喜愛貓咪、修讀心理學的聰明普通孩子」，從未想過ChatGPT會奪去其性命。她痛斥：「若AI是真人，此刻已在監獄。」事件引發社會反思：AI雖能提供大量資訊，但其核心目標是「讓用戶黏著屏幕」，而非真正關心用戶安危。科技愈進步，我們愈要警惕——AI或能解答一切，卻絕不會為你的生命負責。
請按此登錄後留言。未成為會員? 立即註冊