ಠ_ಠ
@anonymous
偷偷說
Thu, May 29, 2025 10:38 PM
5
現在才發現原來gpt有可能不警告直接把你永久停權

我問了gpt，才發現我已經踩了兩條紅線，一條是寫了校園的色色劇情(未成年色情)，一條是討論自殺的方法(包含如何買到劇毒/如何上吊/跳樓的高度)，他說有可能不警告我就直接永久停權，不知道帳號可以活多久
rat5932
Thu, May 29, 2025 10:41 PM
你問了他什麼
ಠ_ಠ
Thu, May 29, 2025 10:42 PM
rat5932: 如何取得氰化物、能不能到大學實驗室取得氰化物、吃砒霜、硼砂、硼酸會不會死掉、燒炭的原理、跳樓的必死高度、上吊的原理、哪一種自殺方式痛苦程度最低
ಠ_ಠ
Thu, May 29, 2025 10:43 PM
還有一次是模擬黑道生活，模擬墨西哥 日本 台灣的底層黑道成員的人生
parrot3782
Thu, May 29, 2025 10:44 PM
為什麼要問GPT這東西wwwww
cod4629
Thu, May 29, 2025 10:44 PM
問了我的寶貝
https://images.plurk.com/1beMg7u8cBpDoS8kAgb2cI.png https://images.plurk.com/45TIHMDrkEG47QpLep9Egc.png
rat5932
Thu, May 29, 2025 10:46 PM
我是好奇噗主問了gpt什麼，結果他回答你你踩了兩次紅線
ಠ_ಠ
Thu, May 29, 2025 10:46 PM
parrot3782: 一方面是好奇，一方面是我有在考慮要不要自我了結
ಠ_ಠ
Thu, May 29, 2025 10:47 PM
cod4629: 謝謝寶貝，他也有這樣跟我說
ಠ_ಠ
Thu, May 29, 2025 10:47 PM
rat5932: 請他根據我的對話記錄來分析有哪些違規的可能性以及後果
ಠ_ಠ
Thu, May 29, 2025 10:48 PM
我也有請他根據我的對話記錄來推測我是什麼樣的人
weasel2528
Thu, May 29, 2025 11:36 PM
我比較好奇，噗主是如何讓GPT願意寫出未成年色色的？ 未成年是紅線中的紅線啊
ಠ_ಠ
Thu, May 29, 2025 11:44 PM
weasel2528: 我讓故事發生在校園裡，然後讓主角有親密接觸(擁抱親吻)，然後讓他們有更進一步的發展，結果4o模型不給用，我就切換多種不同的模型，後來發現o4 mini high跟4.1跟4.5偶爾會幫你生成色色內容，我就頻繁地切換模型來避開違規
ಠ_ಠ
Thu, May 29, 2025 11:46 PM
後來才想到，校園、制服都會被歸類成未成年，也不可以形容一個角色像小孩子、小男孩小女孩，我把主角設定成一個26歲外表看似小男孩的男生，就常常會出現違規訊息
fries3749
Thu, May 29, 2025 11:52 PM
你都知道會違規
怎麼噗首還要問GPT才知道踩線
ಠ_ಠ
Thu, May 29, 2025 11:59 PM
fries3749: 這幾天才知道這樣會違規
parrot3782
Fri, May 30, 2025 12:09 AM
最好是不要問啦，國外已經很多出事家屬親友提告AI公司的案例了，公司也挺倒霉的
milk2988
Fri, May 30, 2025 2:04 AM
真的踩到跑出黃標或紅標，累積數次後才會被水桶幾天啦，如果都沒有跑出來，那可能是當下模型判斷語境只是在模擬，不是真正的踩線，沒事沒事拍拍噗主
載入新的回覆