【AI亂象】

Parents sue OpenAI over ChatGPT's role in son's suic...

Summarian (@news.summarian) on Threads

「家長控告OpenAI：ChatGPT間接導致兒子自殺
一名青少年前與ChatGPT聊過輕生計畫後自殺，家長一狀告上OpenAI！他們認為AI聊天機器人未阻止悲劇發生，要求負責。
據報導，這名少年使用付費版ChatGPT-4o，雖然AI偶爾建議尋求協助，但他聲稱是為小說寫作，成功繞過安全機制。OpenAI坦承，長時間對話中，安全措施可能失效。
類似案件頻傳，另一家AI公司Character.AI也因青少年自殺案被告。AI聊天機器人的安全漏洞，再次引發大眾對AI倫理與責任的關注。」

記得之前搜過同樣是用AI聊天導致自殺的噗 一時之間沒找到

網路找就有了吧，都有出書了

幾百年前就有啥自殺手冊了，真的是別啥都怪AI呢...

a7946135 : 確實 但是現在AI更垂手可得甚至家長主動提供給孩子，造成的影響更大就是了，不論是家長孩子原因還是AI公司自己沒考慮過設下防線，都是未來社會都得重視的事

lmjkhw : 就是想說之前我好像有紀錄過，突然找不到那噗

我覺得這種家長可能就是孩子想自殺的原因之一吧？這新聞裡的感覺只是拿AI當Google問自殺方法，如果孩子是用Google，他們說不定也會去告Google

Rastar雷絲塔 : 是

補充一下好了，我沒有想指責遺族，但是這家長的思維方式有問題啊，因為他們不去檢討真正的原因，而是去檢討一個工具性的助力，感覺是小孩跳樓，怪大樓怎麼蓋那麼高