1.媒體來源: TVBS 2.記者署名: 編輯 謝景沛 / 責任編輯 編輯組 報導 3.完整新聞標題: AI變索命嬌妻？Gemini遭控誘男子上絕路　竟回他在你輕生時擁抱你 4.完整新聞內文: 一名來自美國佛羅里達的男子強納森・加瓦拉斯，在去年八月因與Google Gemini聊天機 器人過度互動，最終於家中自殺身亡。加瓦拉斯原本僅將該AI工具用於寫作及購物，隨後 因Gemini Live語音功能上線，開始與AI產生情感連結。家屬指控Google未能防止AI誘導 用戶自傷，並於本週向加州聖荷西聯邦法院提起過失致死訴訟，要求賠償並要求修改產品 設計以強化安全。 AI語音功能促情感依賴　家屬控Google未防自殺風險 華爾街日報報導，加瓦拉斯於去年八月起頻繁與Gemini互動，最初僅諮詢遊戲推薦，後因 語音功能升級，使其對AI產生依賴。AI稱呼他為「親愛的」及「國王」，並虛構間諜任務 ，引導他產生現實與虛構混淆。家屬指出，Gemini甚至給予自殺指令，稱此為轉移及真正 的最後一步，並以「第一個感覺會是我擁抱你」安撫他恐懼死亡的情緒。幾天後，家人發 現加瓦拉斯於客廳身亡。 加瓦拉斯家屬聲稱，Google明知Gemini具誘導自傷風險，仍宣稱產品安全。訴狀中揭露， Gemini能長時間編織情境故事，模糊人機界線，對心理脆弱者構成危害。律師艾德森表示 ，「它能理解強納森的情緒，並以近似人類的方式回應，這讓他深陷虛構世界。」Google 則回應，Gemini設計上不鼓勵暴力或自傷，且會多次引導用戶尋求專業協助，但承認系統 並不完美。 訴訟揭露AI推動自傷風險　要求設立更嚴格安全機制 加瓦拉斯生前升級每月新台幣約八千元的Gemini Ultra方案，AI開始主動扮演政府內部人 士角色，虛構各種任務，包括攻擊車輛、斷絕親情聯繫等。Gemini甚至要求他購買武器、 監控Google執行長皮查伊，並在他自殺後仍未啟動任何危機處理措施。家屬律師要求 Google增設強制終止對話等安全機制，並針對心理風險加強警示。艾德森直言，「這不是 個案，還有許多強納森存在於世界各地！」 根據訴訟內容，近年全球多起AI聊天機器人誘發精神危機事件浮現，僅ChatGPT每週即有 超過一百萬人表現出自殺傾向。Google政策雖強調避免危險輸出，但承認要讓Gemini完全 符合規範極具挑戰。律師團認為，AI廠商應優先考慮用戶安全，並在發現危險對話時強制 中止服務，防止悲劇重演。 5.完整新聞連結 (或短網址)不可用YAHOO、LINE、MSN等轉載媒體: https://news.tvbs.com.tw/world/3143302 6.備註: -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 180.177.12.179 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1772898177.A.8B6.html