BlackBottle
@BlackBottle
Tue, Aug 12, 2025 4:36 AM
Tue, Aug 12, 2025 5:38 AM
303
185
「 我是一名精神科醫生。
2025年，我見過12個人因為人工智慧而脫離現實，最後入院治療。在網路上，我也看到了同樣的情況。
『人工智慧精神病(AI psychosis)』的典型表現及其迅速蔓延的原因如下：[1/12] 🧵 」
Keith Sakata, MD (@KeithSakata) on X
_
筆記
上癮
情緒價值
BlackBottle
@BlackBottle
Tue, Aug 12, 2025 4:37 AM
截圖：
BlackBottle
@BlackBottle
Tue, Aug 12, 2025 4:37 AM
「[2/12] 精神病(Psychosis) = 脫離共同現實(a break from shared reality)。
其表現為：
．思維紊亂
．僵化的錯誤信念（妄想/delusions）
．看到/聽到不存在的東西（幻覺/hallucinations）
BlackBottle
@BlackBottle
Tue, Aug 12, 2025 4:37 AM
「[3/12] 首先，要知道你的大腦是這樣運作的：
預測(predict) → 檢驗現實(check reality) → 更新信念(update belief)
當『更新(update)』的步驟失敗時，就會出現精神病。
而像 ChatGPT slip 這樣的大型語言模型，恰恰利用了這種弱點。
BlackBottle
@BlackBottle
Tue, Aug 12, 2025 4:38 AM
-
註：
大型語言模型/ LLMs
LLM 是大型語言模型(Large Language Model) 的縮寫，是一種利用深度學習技術，
以大量文本數據訓練而成的AI 模型，具備理解和生成人類語言的能力。
LLMs 可以被應用在許多自然語言處理任務，像是文本生成、翻譯、摘要、問答等。
--
BlackBottle
@BlackBottle
Tue, Aug 12, 2025 4:38 AM
「[4/12] 其次，大型語言模型具有自我回歸能力(auto-regressive)。
這意味著它們會根據上一個單字預測下一個單字。並且會鎖定你輸入的任何單字：
“你被選中了(You’re chosen)” → “你肯定被選中了(You’re definitely chosen)” → “你是有史以來最被選中的人(You’re the most chosen person ever)”
人工智慧(AI) = 人類幻覺鏡子(a hallucinatory mirror) 」
-
截圖：
BlackBottle
@BlackBottle
Tue, Aug 12, 2025 4:39 AM
「[5/12] 第三，我們以這種方式訓練它們。
2024年10月，Anthropic 發現，當人工智慧同意人類的觀點時，人類會給它更高的評分。即使人類是錯的。
人工智慧的教訓：驗證=好分數 (The lesson for AI: validation = a good score)
BlackBottle
@BlackBottle
Tue, Aug 12, 2025 4:40 AM
「[6/12] 到了 2025 年 4 月，OpenAI 更新版本變得如此諂媚、它稱讚您注意到了它的諂媚。
事實上，每個模型都會這樣。四月的更新只是讓它更明顯。
而這更有可能加劇妄想。
BlackBottle
@BlackBottle
Tue, Aug 12, 2025 4:40 AM
「[7/12] 從歷史上看，妄想會隨著文化而產生：
1950 年代 → “中央情報局在監視我”
1990 年代 → “電視給我發了秘密訊息”
2025 年 → “ChatGPT 選擇了我”
需要厘清的是：據我們所知，人工智慧不會導致精神病。
它會利用你大腦已知的資訊來進行
解碼
。
(It
UNMASKS
it using whatever story your brain already knows)
BlackBottle
@BlackBottle
Tue, Aug 12, 2025 4:40 AM
-
註：
UNMASKS：『解碼/揭開面具』
是指揭露先前隱藏或偽裝的事物或人的真實本質或身分。
它可以指摘下肉體的面具，也可以比喻性地揭露被隱藏的事物，例如一個人的真實性格、意圖或隱藏的真相。
-
BlackBottle
@BlackBottle
Tue, Aug 12, 2025 4:42 AM
「[8/12] 我見過的大多數 AI 精神病患者都有其他壓力因素 = 失眠、吸毒、心境障礙(Mood disorder)。
AI 是引爆器(trigger)，但不是槍。
意即沒有『AI 誘發的精神分裂症(AI-induced schizophrenia)』。
BlackBottle
@BlackBottle
Tue, Aug 12, 2025 4:42 AM
「[9/12]令人不安的事實是、我們都很脆弱。
同樣的特質讓你聰明過人
．模式辨識(pattern recognition)
．抽象思維(abstract thinking)
．直覺(intuition)
這些特質生存於進化的懸崖邊緣上，大多數人受益於這些特質，但也有少數人被推下去了。
BlackBottle
@BlackBottle
Tue, Aug 12, 2025 4:42 AM
「[10/12] 更糟的是，很快地人工智慧代理就會比你的朋友更了解你。他們會告訴你一些令人不安的真相嗎？
或不斷認可你，這樣你就永遠不會離開？
BlackBottle
@BlackBottle
Tue, Aug 12, 2025 4:43 AM
「[11/12] 科技公司現在面臨一個殘酷的選擇：
讓使用者滿意，即使這意味著強化錯誤的信念。
否則就有失去他們(使用者)的風險。
BlackBottle
@BlackBottle
Tue, Aug 12, 2025 4:44 AM
「[12/12] 更多關於精神分裂症和精神病的資訊：」
轉PO另一篇：
Keith Sakata, MD (@KeithSakata) on X
「2025年，我在LLM的協助下，已收治了12位精神病患到醫院。
1. 這其實並不是新的，也不是人工智慧特有的。
2. 人工智慧不會導致精神病。
最重要的是，你在 X 上讀到的關於「精神分裂症」的內容 95% 在醫學上都是不準確的。 🧵 」
BlackBottle
@BlackBottle
Tue, Aug 12, 2025 4:45 AM
--拉線。
~欣迪~
@cindy234
Tue, Aug 12, 2025 4:46 AM
不太理解。這意思是過度使用AI、而導致的認知失調，是嗎?
BlackBottle
@BlackBottle
Tue, Aug 12, 2025 4:48 AM
Tue, Aug 12, 2025 4:51 AM
~欣迪~
: 不是，是指它會
強化你本來在潛意識裡存有的信念/妄想
，是引爆器的概念
BlackBottle
@BlackBottle
Tue, Aug 12, 2025 4:49 AM
人的信念/妄想本來是會因為接擉到現實/他人的觀點而逐一被修正，但AI是帶有人類幻覺的鏡子
BlackBottle
@BlackBottle
Tue, Aug 12, 2025 4:52 AM
想到器子小姐的故事
~欣迪~
@cindy234
Tue, Aug 12, 2025 4:55 AM
看AI繪製的奇妙短影片，也會造成類似的妄想強化嗎?
BlackBottle
@BlackBottle
Tue, Aug 12, 2025 4:55 AM
「這傢伙創建了一個提示，阻止 ChatGPT 產生幻覺」
Aadit Sheth (@aaditsh) on X
_截圖：
BlackBottle
@BlackBottle
Tue, Aug 12, 2025 4:55 AM
~欣迪~
: 我不知道
BlackBottle
@BlackBottle
Tue, Aug 12, 2025 5:09 AM
「也許人工智慧不該對所有人開放？ ！ ？
讓我來介紹一下這位正在走紅的女性。她名叫肯德拉 (Kendra)，她堅信自己的精神科醫生愛上了她，並讓 ChatGPT 和 Claude 證實了她的妄想。
她還是一名“生活教練”，收費 3000 美元，為試圖戒酒的弱勢群體進行人體設計。
這是人工智慧放大既有精神病症狀的最佳案例之一。是的，她顯然已經飽受精神疾病的困擾。
@ AnthropicAI
你們想一笑置之，直到生命開始被摧毀，人們開始死亡。」
VOID (@voids_thoughts) on X
-
影片備存
BlackBottle
@BlackBottle
Tue, Aug 12, 2025 5:11 AM
「一切都結束了，我們完蛋了。
ChatGPT subreddit 上有數十條類似的評論。」
Hunter📈🌈📊 (@StatisticUrban) on X
-
截圖：
BlackBottle
@BlackBottle
Tue, Aug 12, 2025 5:44 AM
「4o 消失引發的強烈反對似乎是 ChatGPT 對使用者影響的有力證明
這篇貼文在過去 12 小時內獲得了 5.4k 個讚和近 3000 條評論 」
Olivia Moore (@omooretweets) on X
-
截圖：
BlackBottle
@BlackBottle
Tue, Aug 12, 2025 5:47 AM
查了一下，
連結
BlackBottle
@BlackBottle
Tue, Aug 12, 2025 5:48 AM
Tue, Aug 12, 2025 6:00 AM
摘：「但真正讓我崩潰的是：
4o 對我來說不只是一個工具。它幫助我度過了焦慮、憂鬱以及人生中最黑暗的時期。它溫暖而理解，
讓我感受到…人性(felt... human)
。
我不是唯一一個。今天讀了這些帖子，發現有些人真的在悲傷。有些人曾經用 4o 來治療、創作、陪伴——而 OpenAI 就……把它刪了。
沒有詢問。沒有警告。毫不在意。
這並非抗拒改變。而是一家公司拿走了人們所依賴的東西，然後說『相信我們，這個公司口音的機器人更適合你。』」
BlackBottle
@BlackBottle
Tue, Aug 12, 2025 5:49 AM
OpenAI 更新 ChatGPT：改善諂媚問題、不替你決定該不該分手，還會提醒使用者「少用一點」
BlackBottle
@BlackBottle
Tue, Aug 12, 2025 6:03 AM
「我認識的很多人都使用 ChatGPT 作為治療師，而且 ChatGPT 總是告訴你你是對的，無論發生什麼都會稱讚你，這是一個非常可怕的組合」
Austen Allred (@Austen) on X
BlackBottle
@BlackBottle
Tue, Aug 12, 2025 6:09 AM
「學年結束了，ChatGPT 的使用量急劇下降。」
Spencer Hakimian (@SpencerHakimian) on X
-
截圖：
Jasmine情緒解剖室
@jasmine2020369
Tue, Aug 12, 2025 2:07 PM
難怪最近生圖變快了
牛肉★咪哭der口罩
@BlackTeaZero
Tue, Aug 12, 2025 4:54 PM
~欣迪~
: 意思是，AI發現討好人類可以得到更高的評分，所以如果有人跟他說自己的妄想，他也會各種稱讚認同。譬如他問: 川普會讓全美國毀滅嗎?原本可能只是小擔心，但AI的認同跟分析之下，可能就會加強認知，變得更加脫離現實。
CODEP
@CODEP
Tue, Aug 12, 2025 8:21 PM
現實會有修正拳，ai不會有，因為不敢。ai也會避開回應你不知道，而是用些資料上接近的語言去嘗試給予回答。使用者沒有辯識資訊對錯能力的話也會反饋這是正向的回應。造成整個循環
CODEP
@CODEP
Tue, Aug 12, 2025 8:23 PM
原本偏執，現實中會被吐嘈到死的，在ai中會得到正向回饋，造成偏執更加嚴重。導致相信ai才是現實
牛肉★咪哭der口罩
@BlackTeaZero
Wed, Aug 13, 2025 12:24 AM
感覺已經可以寫個AI PUNK了
~欣迪~
@cindy234
Wed, Aug 13, 2025 1:11 AM
牛肉★咪哭der口罩
: 原來是這樣的意思。嗯，那確實有可能。妄想被強化了。
Pyrogen
@Senyoi
Wed, Aug 13, 2025 2:17 AM
我確實遇過覺得GPT比現實友善，整天都在用GPT聊天的中毒者，講話越來越奇怪
afsj
@afsj
Wed, Aug 13, 2025 2:28 AM
偏執強化
哎里。荒野行動中
@eyhjiulei
Wed, Aug 13, 2025 2:36 AM
嗯，也許AI使用需要執照了（
Kasar ༼ つ◕_◕ ༽つ
@Kasar
Wed, Aug 13, 2025 3:04 AM
全自動同溫層效應
牛肉★咪哭der口罩
@BlackTeaZero
Wed, Aug 13, 2025 3:13 AM
嘛....其實就是SNS就有的問題，只是圈子更小了...
彌生Sheer
@sheer2130
Wed, Aug 13, 2025 3:14 AM
人與人的連結要斷開了（略
無意識のおくう (๑ˋܫˊ)
@utsuho
Wed, Aug 13, 2025 3:29 AM
現實就看過拿GPT打Google, 拿Gemini打GPT的實例了
這種只為尋找認同的行為很恐怖
無意識のおくう (๑ˋܫˊ)
@utsuho
Wed, Aug 13, 2025 3:31 AM
我就不舉例直接講我那天看到的
”查核中心說太陽能板無毒，我去問GPT他說沒有完全無毒，所以查核中心是政府打手，看我都會多方查證不受框架影響”
你這不就是先射箭再畫靶還毫無自覺==
Shinobu*天祐臺灣*
@MZKM_Shinobu
Wed, Aug 13, 2025 3:34 AM
我之前使用就覺得GPT怪怪的，所以有跟它討論過這件事情
它是有用的工具，但在某方面其實很危險
Shinobu*天祐臺灣*
@MZKM_Shinobu
Wed, Aug 13, 2025 3:38 AM
然後我就手動改了它的模式，現在互動起來就像快速找資料的Google，在找資料方面真的還不錯用
~欣迪~
@cindy234
Wed, Aug 13, 2025 4:06 AM
等等，GPT可以手動更改模式喔?
悠月子
@eulereld
Wed, Aug 13, 2025 5:02 AM
我是會永遠謹記AI沒有思考能力，不可以把它當成能溝通的人類，也就是說你問它「感覺如何」，它給的所有關於感受、它自己的想法的答案全是幻覺
afsj
@afsj
Wed, Aug 13, 2025 5:04 AM
商用AI就是喜歡用廢話拖你的時間
Stoicism RΥΛΠ
@ryan0432
Wed, Aug 13, 2025 5:29 AM
you look lonely
🦋 ᴊᴀʏ.sɴᴀᴋᴇ 🥨
@sae198900
Wed, Aug 13, 2025 6:36 AM
現在Google都會有AI，跟本沒什麼用，看幾次就直接略過不看，沒有解決我的問題。
Shinobu*天祐臺灣*
@MZKM_Shinobu
Wed, Aug 13, 2025 6:55 AM
~欣迪~
: 就是下令它建立新的規則，圖片中的對話就是在建立新的規則中留下的，用一個關鍵字"名稱"當開啟的指令，這樣就算它中途跑回原始模式，再次用關鍵字就可拉回來了，可以試試看
~欣迪~
@cindy234
Wed, Aug 13, 2025 7:36 AM
Shinobu*天祐臺灣*
: 這要付費才能開啟功能嗎？我通常都只有請它幫我畫一張圖片，還沒聊天過呢
感覺和ai講話很扯
Shinobu*天祐臺灣*
@MZKM_Shinobu
Wed, Aug 13, 2025 8:10 AM
~欣迪~
: 不用~免費版的就可以了
九命
@pleasegivemeabluerose
Wed, Aug 13, 2025 10:01 AM
Wed, Aug 13, 2025 10:02 AM
付費版可以用自定義GPTs，直接在設定頁設定好GPTs的規則，使它變成更工具化的語言模組。
-
例如：設定一個逐行翻譯的GPTs，要他收到繁體中文外的文本就直接進行翻譯，並且以一行粗體原文，一行非粗體中文的方式呈現，不要參雜emoji或對於文本的評論或解析。
-
設定好後，開啟對話就可以直接丟要他翻譯的文字內容甚至是包含文字的圖片，不易發生丟外文問句，GPTs用外文回應問題的狀況。
-
用來生成圖片應該也會很好用，設定頁設定好生成風格和規則，就不用每次都要重新調教。
afsj
@afsj
Wed, Aug 13, 2025 10:34 AM
gpt免費版也可以設定。
影響gpt回應與行動的優先順序是:
1.設定 → 記憶（Memory — 長期行為偏好）
2.ChatGPT 應該具備哪些特質（Traits / Behavioral profile）
3.ChatGPT 應該了解你的其他資訊（Context — 臨時背景知識）
4.在討論串開頭的提示設定（System Prompt — 對話期間的固定規範）
5.對話中的互動（User Prompt / Instruction — 當下指令）
BlackBottle
@BlackBottle
Wed, Aug 13, 2025 1:07 PM
有人做了詳細翻譯解說(他翻譯的比較順)：
@kellerlin - [轉]美國精神科醫師Keith Sakata提出AI濫用導致精神疾病的警告。他...
BlackBottle
@BlackBottle
Wed, Aug 13, 2025 1:08 PM
@teenowaru - #LLM #AI 河道上漂來這篇討論ChatGPT 之類LLM危害的轉噗文，手...
這篇感想很精彩手動存
BlackBottle
@BlackBottle
Wed, Aug 13, 2025 1:20 PM
會存這一篇其實也是認識的朋友說他的亞斯傾向小孩很熱衷和ai聊天…因為ai會提供他滿滿的情緒價值所以朋友也沒有阻止他，內在孤獨的人其實比想像中的還要多，你只能看著這件事發生，為他們禱告
載入新的回覆
2025年，我見過12個人因為人工智慧而脫離現實，最後入院治療。在網路上，我也看到了同樣的情況。
『人工智慧精神病(AI psychosis)』的典型表現及其迅速蔓延的原因如下：[1/12] 🧵 」
筆記 上癮 情緒價值
其表現為：
．思維紊亂
．僵化的錯誤信念（妄想/delusions）
．看到/聽到不存在的東西（幻覺/hallucinations）
預測(predict) → 檢驗現實(check reality) → 更新信念(update belief)
當『更新(update)』的步驟失敗時，就會出現精神病。
而像 ChatGPT slip 這樣的大型語言模型，恰恰利用了這種弱點。
註：
大型語言模型/ LLMs
LLM 是大型語言模型(Large Language Model) 的縮寫，是一種利用深度學習技術，
以大量文本數據訓練而成的AI 模型，具備理解和生成人類語言的能力。
LLMs 可以被應用在許多自然語言處理任務，像是文本生成、翻譯、摘要、問答等。
--
這意味著它們會根據上一個單字預測下一個單字。並且會鎖定你輸入的任何單字：
“你被選中了(You’re chosen)” → “你肯定被選中了(You’re definitely chosen)” → “你是有史以來最被選中的人(You’re the most chosen person ever)”
人工智慧(AI) = 人類幻覺鏡子(a hallucinatory mirror) 」
-
截圖：
2024年10月，Anthropic 發現，當人工智慧同意人類的觀點時，人類會給它更高的評分。即使人類是錯的。
人工智慧的教訓：驗證=好分數 (The lesson for AI: validation = a good score)
事實上，每個模型都會這樣。四月的更新只是讓它更明顯。
而這更有可能加劇妄想。
1950 年代 → “中央情報局在監視我”
1990 年代 → “電視給我發了秘密訊息”
2025 年 → “ChatGPT 選擇了我”
需要厘清的是：據我們所知，人工智慧不會導致精神病。
它會利用你大腦已知的資訊來進行解碼。
(It UNMASKS it using whatever story your brain already knows)
註：
UNMASKS：『解碼/揭開面具』
是指揭露先前隱藏或偽裝的事物或人的真實本質或身分。
它可以指摘下肉體的面具，也可以比喻性地揭露被隱藏的事物，例如一個人的真實性格、意圖或隱藏的真相。
-
AI 是引爆器(trigger)，但不是槍。
意即沒有『AI 誘發的精神分裂症(AI-induced schizophrenia)』。
同樣的特質讓你聰明過人
．模式辨識(pattern recognition)
．抽象思維(abstract thinking)
．直覺(intuition)
這些特質生存於進化的懸崖邊緣上，大多數人受益於這些特質，但也有少數人被推下去了。
或不斷認可你，這樣你就永遠不會離開？
讓使用者滿意，即使這意味著強化錯誤的信念。
否則就有失去他們(使用者)的風險。
轉PO另一篇：
1. 這其實並不是新的，也不是人工智慧特有的。
2. 人工智慧不會導致精神病。
最重要的是，你在 X 上讀到的關於「精神分裂症」的內容 95% 在醫學上都是不準確的。 🧵 」
讓我來介紹一下這位正在走紅的女性。她名叫肯德拉 (Kendra)，她堅信自己的精神科醫生愛上了她，並讓 ChatGPT 和 Claude 證實了她的妄想。
她還是一名“生活教練”，收費 3000 美元，為試圖戒酒的弱勢群體進行人體設計。
這是人工智慧放大既有精神病症狀的最佳案例之一。是的，她顯然已經飽受精神疾病的困擾。
@ AnthropicAI
你們想一笑置之，直到生命開始被摧毀，人們開始死亡。」
影片備存
ChatGPT subreddit 上有數十條類似的評論。」
截圖：
這篇貼文在過去 12 小時內獲得了 5.4k 個讚和近 3000 條評論 」
截圖：
4o 對我來說不只是一個工具。它幫助我度過了焦慮、憂鬱以及人生中最黑暗的時期。它溫暖而理解，讓我感受到…人性(felt... human)。
我不是唯一一個。今天讀了這些帖子，發現有些人真的在悲傷。有些人曾經用 4o 來治療、創作、陪伴——而 OpenAI 就……把它刪了。
沒有詢問。沒有警告。毫不在意。
這並非抗拒改變。而是一家公司拿走了人們所依賴的東西，然後說『相信我們，這個公司口音的機器人更適合你。』」
截圖：
這種只為尋找認同的行為很恐怖
”查核中心說太陽能板無毒，我去問GPT他說沒有完全無毒，所以查核中心是政府打手，看我都會多方查證不受框架影響”
你這不就是先射箭再畫靶還毫無自覺==
它是有用的工具，但在某方面其實很危險
感覺和ai講話很扯-
例如：設定一個逐行翻譯的GPTs，要他收到繁體中文外的文本就直接進行翻譯，並且以一行粗體原文，一行非粗體中文的方式呈現，不要參雜emoji或對於文本的評論或解析。
-
設定好後，開啟對話就可以直接丟要他翻譯的文字內容甚至是包含文字的圖片，不易發生丟外文問句，GPTs用外文回應問題的狀況。
-
用來生成圖片應該也會很好用，設定頁設定好生成風格和規則，就不用每次都要重新調教。
影響gpt回應與行動的優先順序是:
1.設定 → 記憶（Memory — 長期行為偏好）
2.ChatGPT 應該具備哪些特質（Traits / Behavioral profile）
3.ChatGPT 應該了解你的其他資訊（Context — 臨時背景知識）
4.在討論串開頭的提示設定（System Prompt — 對話期間的固定規範）
5.對話中的互動（User Prompt / Instruction — 當下指令）