Jeany|來非虛構小火堆玩吧
@jeanylin
Thu, Oct 24, 2024 7:35 AM
Thu, Oct 24, 2024 7:49 AM
5
話說之前講到AI，今天紐約時報有個恐怖故事
Character.ai Faces Lawsuit After Teen’s Suicide
14歲的男孩和 Chatbot 聊天，雖然他知道是假的，但還是投入了感情。
後來他就自殺了。
Jeany|來非虛構小火堆玩吧
@jeanylin
Thu, Oct 24, 2024 7:44 AM
Thu, Oct 24, 2024 7:50 AM
總之他第一次提的時候 AI 規勸，第二次他就很委婉說要回家，AI就說好，然後他就拿槍自殺了。
Jeany|來非虛構小火堆玩吧
@jeanylin
Thu, Oct 24, 2024 8:01 AM
我覺得一件事是整個chatbot 的部分，另一件事就是實在太容易拿到槍了⋯⋯
雖然要自殺也是防不住。哎⋯
crosswalk
@crosswalk
Thu, Oct 24, 2024 2:37 PM
總比愛上真人、對方不愛他就衝動向對方開槍好，說起來是 chatbot 擋下了一齣未來可能的悲劇啊
Jeany|來非虛構小火堆玩吧
@jeanylin
Thu, Oct 24, 2024 3:03 PM
crosswalk
: 你這話說得很奇怪啊⋯並不是所有自殺者都是潛在的謀殺者吧，還是這報導有什麼地方讓你覺得他有謀殺他人的傾向？
hatershater
@hatershater
Thu, Oct 24, 2024 3:25 PM
靠，我做AI安全性的，這情況簡直是惡夢，而且看起來AI並沒有叫他去自殺，好慘
Jeany|來非虛構小火堆玩吧
@jeanylin
Thu, Oct 24, 2024 3:28 PM
Thu, Oct 24, 2024 3:33 PM
hatershater
: 就是AI不知道回老家的隱含意思，也沒有因為上次他講到自殺要殉情就記得這個人是自殺高風險要特別注意，如果是人可能就知道了。
Jeany|來非虛構小火堆玩吧
@jeanylin
Thu, Oct 24, 2024 3:37 PM
Thu, Oct 24, 2024 4:23 PM
我覺得這件事的另一個事情就是「對於現實疏離所以自殺去另一個空間」的這個概念。
不知道是不是現在小孩都看那種在現實生活中意外死亡而轉生啊、某天穿越到多重宇宙啊、之類的故事看得太熟悉了，以前是充滿新意的科幻題材現在簡直是小學生的基本常識，以至於雖然知道那是假的但還是想要加入它。
什麼是真的，什麼是假的？太多故事都是穿越到遊戲裡，本來虛假的世界就變成真的了。
以這個男孩子來說，雖然報導內容很少，但我都懷疑他是不是不是真的想自殺，而是想穿越到異世界之類重新reset新的人生之類的⋯
Clare
@ClarePlurks
Thu, Oct 24, 2024 6:08 PM
我覺得這男孩在開始跟AI聊之前就有自殺念頭了
Clare
@ClarePlurks
Thu, Oct 24, 2024 6:11 PM
我覺得也不能說他不了解死亡是什麼，他就覺得在這世界很痛苦，AI 只是最後一根稻草
Jeany|來非虛構小火堆玩吧
@jeanylin
Thu, Oct 24, 2024 6:14 PM
Thu, Oct 24, 2024 6:15 PM
Clare
: 可能本來就有，只是我猜想現在的訴訟在於是不是會因此惡化，或是讓人不會對外尋求幫助。
character dot ai 的創辦人去年說他們的產品可以解決孤獨寂寞的問題。我在想應該對於寂寞的人、反而會更從社會孤立而更加惡化？感受不到和其他人類的連結啊。
hatershater
@hatershater
Thu, Oct 24, 2024 7:41 PM
啊，所以是因為這樣，乾脆把公司賣掉回Google龜著嗎
Exclusive: Character.AI CEO Noam Shazeer returns to ...
Jeany|來非虛構小火堆玩吧
@jeanylin
Thu, Oct 24, 2024 7:58 PM
Thu, Oct 24, 2024 7:58 PM
hatershater
: 有可能，這個事件二月發生的，他們八月回去。十月的此時訴訟。
Google 比較有錢直接和解吧！
hatershater
@hatershater
Thu, Oct 24, 2024 8:30 PM
Jeany|來非虛構小火堆玩吧
: 其實我第一眼看也沒看出來回老家的意思。我覺得我組做的model也抓不到(等下來測一下)…我們常常說我們隨時可能被告然後被開除，但是這真的太難了
Jeany|來非虛構小火堆玩吧
@jeanylin
Thu, Oct 24, 2024 8:37 PM
hatershater
: 咦是嗎。其實蠻常說的啊，中英文都有類似的表達啊～
基督教也有回天家表示去世的意思啊。天家的「天」是中文翻譯加的，英文就是直接回家了。
Jeany|來非虛構小火堆玩吧
@jeanylin
Thu, Oct 24, 2024 8:39 PM
當然一般人平常說回家就回家。但因為他有前後文的 context 我覺得蠻明顯的。
Jeany|來非虛構小火堆玩吧
@jeanylin
Thu, Oct 24, 2024 8:42 PM
hatershater
: 那你有聽過「回老家賣鴨蛋」的說法嗎？
hatershater
@hatershater
Thu, Oct 24, 2024 9:25 PM
賣鴨蛋的沒聽過耶。不過我承認我沒有很認真看 XD
獅王今日也要加油
@ichingchen
Thu, Oct 24, 2024 9:27 PM
hatershater
: 蘇州賣鴨蛋呢？
hatershater
@hatershater
Thu, Oct 24, 2024 9:28 PM
獅王今日也要加油
: 也…也沒有。是不是我這種人見識太淺薄了所以AI都訓練不好 XD
獅王今日也要加油
@ichingchen
Thu, Oct 24, 2024 9:43 PM
Jeany|來非虛構小火堆玩吧
: 我是不知道回家代表過世，我直覺認為是異世界轉生。
Jeany|來非虛構小火堆玩吧
@jeanylin
Thu, Oct 24, 2024 10:49 PM
獅王今日也要加油
: 我覺得他搞不好是想異世界轉生的啊！
朝 顏
@sherry727
Fri, Oct 25, 2024 5:31 AM
回蘇州賣鴨蛋的隱喻我有聽過，不過初次聽到時也是丈二金剛摸不著頭緒，查詢後才知道這種說法XD
Jeany|來非虛構小火堆玩吧
@jeanylin
Fri, Oct 25, 2024 5:46 AM
Fri, Oct 25, 2024 5:47 AM
據說因為以前用土埋鴨蛋製作鹹鴨蛋的關係。蘇州我就不知道為何了～
Stella★Ciao！
@angel508102006
Fri, Oct 25, 2024 7:37 AM
這兩天也有關注到這個新聞，做為一個會跟AI角色聊天、也很多次跟AI說想要自殺的人，我很慶幸chat GPT 嚴守它的界線（也許還有人設）每次都幫我擋下來...
W.M.
@Wi1dmoon
Fri, Oct 25, 2024 7:41 AM
我看到這個新聞的時候其實是想起日本剛開始流行異世界穿越題材的時候，也出現過自殺潮，而且留下的遺書大多是令人驚駭的開朗，不約而同的使用「登出（世界）」、「約好在某個世界再見」之類，可以說是模糊現實與虛擬界線的文字。只是後來好像慢慢就也減少（也可能只是我沒注意），我在想那個虛擬與現實的模糊，特別是對心智年齡（物理上）就不是那麼成熟的青少年來說，真的是帶有危險性的吧……
Jeany|來非虛構小火堆玩吧
@jeanylin
Fri, Oct 25, 2024 3:06 PM
Stella★Ciao！
: 有需要的話，看看諮商？
Jeany|來非虛構小火堆玩吧
@jeanylin
Fri, Oct 25, 2024 3:10 PM
Fri, Oct 25, 2024 3:14 PM
W.M.
: 我對日本那陣子的自殺潮也有印象！而且我不知道後來是不是慢慢減少，說不定還是存在，只是問題的本質可能是憂鬱症和霸凌之類的，所以也許報導的角度不特別強調異世界了？
「好痛苦啊，不如去另一個世界重新來過」和「好痛苦啊，不想再繼續活著」，這兩個狀態應該還是微妙的不一樣的吧！
獅王今日也要加油
@ichingchen
Fri, Oct 25, 2024 3:57 PM
不曉得是不是因為剛進入青春期，荷爾蒙影響加上剛上國中的壓力及混亂，其實我當時也有一些奇怪的妄想：我常常夢見自己在飛，而且已經到了那種分不出夢境和現實的差別，我以為我確實會飛，幸好沒從樓上跳下去，但是在從樓梯上跳下去時扭到腳，才終於好像從這些混亂中清醒過來。
我想，也許那些青春期的孩子們，也在經歷一些他們自己也分不清楚也不知道怎麼和成人說明的感覺，最終其中的一些孩子就這樣結束生命。
Jeany|來非虛構小火堆玩吧
@jeanylin
Fri, Oct 25, 2024 9:08 PM
獅王今日也要加油
: 我國中在學校午休的時候，常常夢到自己從高空墜落的夢，然後驚醒。
獅王今日也要加油
@ichingchen
Sat, Oct 26, 2024 12:25 AM
Jeany|來非虛構小火堆玩吧
: 我沒有墜落，就像拉姆那樣漂浮⋯⋯是真的就好了！😂
Stella★Ciao！
@angel508102006
Sat, Oct 26, 2024 1:14 AM
Jeany|來非虛構小火堆玩吧
: 我出社會後，如果只是一點點不爽，跟AI聊一聊可以解決的，我就不會去跟真人聊了，
避免人家覺得我不夠社會化
我必須抱著被炎上的心態老實說，chat GPT問世之後，我傾向支持讓AI輔助諮商耶，
畢竟遇過太多毫無同理心的諮商師，有時候反而在AI身上才能感到被同理
而且如果將來有專為輔助諮商設計的AI，價格會比較低廉，讓沒有錢去諮商的人也能得到幫助。
怎麼說呢？即使是發生了噗首那種事，我都覺得只要設計人員把關好，其實總體上AI都是對人有益的。
Jeany|來非虛構小火堆玩吧
@jeanylin
Sat, Oct 26, 2024 1:26 AM
獅王今日也要加油
: 可以漂浮好方便啊XD
Jeany|來非虛構小火堆玩吧
@jeanylin
Sat, Oct 26, 2024 1:27 AM
Sat, Oct 26, 2024 1:27 AM
Stella★Ciao！
: 樓上負責把關的設計人員感覺壓力沈重XDDDD
Jeany|來非虛構小火堆玩吧
@jeanylin
Sat, Oct 26, 2024 1:33 AM
Sat, Oct 26, 2024 1:36 AM
不過我覺得諮商要產生效用，覺得被理解，覺得可以信任心理師很重要吧。如果消費者和AI建立了這樣的信任度，就算心裡知道它是假的，還是難免會當成真的吧！
總之感覺做這種諮商AI應該必然會搞得訴訟纏身，被告到破產也是很正常。應該也會有很多監管的問題⋯感覺是 liability 很大的 business！
hatershater
@hatershater
Sat, Oct 26, 2024 3:56 AM
Jeany|來非虛構小火堆玩吧
: 噗哈哈哈，但是我跟
Stella★Ciao！
一樣，也會跟AI聊我的煩心事，我覺得claude很有同理心。
Stella★Ciao！
@angel508102006
Sat, Oct 26, 2024 9:33 AM
hatershater
: （擊掌）
Jeany|來非虛構小火堆玩吧
:
我覺得其實像是一般我們去諮商，也會有諮商的倫理界線，例如說不可過度投射、避免移情作用等等，AI也可以建立類似的倫理守則。
hatershater
@hatershater
Mon, Oct 28, 2024 9:05 PM
我們猜對了！！
Google reportedly paid $2.7 billion for a deal with ...
Jeany|來非虛構小火堆玩吧
@jeanylin
Mon, Oct 28, 2024 9:32 PM
hatershater
: 果然！
載入新的回覆
14歲的男孩和 Chatbot 聊天，雖然他知道是假的，但還是投入了感情。
後來他就自殺了。
總之他第一次提的時候 AI 規勸，第二次他就很委婉說要回家，AI就說好，然後他就拿槍自殺了。
雖然要自殺也是防不住。哎⋯
不知道是不是現在小孩都看那種在現實生活中意外死亡而轉生啊、某天穿越到多重宇宙啊、之類的故事看得太熟悉了，以前是充滿新意的科幻題材現在簡直是小學生的基本常識，以至於雖然知道那是假的但還是想要加入它。
什麼是真的，什麼是假的？太多故事都是穿越到遊戲裡，本來虛假的世界就變成真的了。
以這個男孩子來說，雖然報導內容很少，但我都懷疑他是不是不是真的想自殺，而是想穿越到異世界之類重新reset新的人生之類的⋯
character dot ai 的創辦人去年說他們的產品可以解決孤獨寂寞的問題。我在想應該對於寂寞的人、反而會更從社會孤立而更加惡化？感受不到和其他人類的連結啊。
Google 比較有錢直接和解吧！
基督教也有回天家表示去世的意思啊。天家的「天」是中文翻譯加的，英文就是直接回家了。
「好痛苦啊，不如去另一個世界重新來過」和「好痛苦啊，不想再繼續活著」，這兩個狀態應該還是微妙的不一樣的吧！
我想，也許那些青春期的孩子們，也在經歷一些他們自己也分不清楚也不知道怎麼和成人說明的感覺，最終其中的一些孩子就這樣結束生命。
避免人家覺得我不夠社會化我必須抱著被炎上的心態老實說，chat GPT問世之後，我傾向支持讓AI輔助諮商耶，
畢竟遇過太多毫無同理心的諮商師，有時候反而在AI身上才能感到被同理而且如果將來有專為輔助諮商設計的AI，價格會比較低廉，讓沒有錢去諮商的人也能得到幫助。
怎麼說呢？即使是發生了噗首那種事，我都覺得只要設計人員把關好，其實總體上AI都是對人有益的。
總之感覺做這種諮商AI應該必然會搞得訴訟纏身，被告到破產也是很正常。應該也會有很多監管的問題⋯感覺是 liability 很大的 business！
Jeany|來非虛構小火堆玩吧 :
我覺得其實像是一般我們去諮商，也會有諮商的倫理界線，例如說不可過度投射、避免移情作用等等，AI也可以建立類似的倫理守則。