【AI亂象】資訊汙染/詐騙

T客邦 (@techbang3c) on Threads

【一位Reddit網友分享了驚悚經歷：他老婆從網上購買了一本英國蘑菇識別指南，結果全家按照書中的指導採蘑菇後中毒住院！
這本書是由AI生成的，內容不準確，甚至出現AI常見客套話：「如果還有什麼我可以幫忙的，請告訴我」。
網友購買時完全不知道這是AI生成的，零售商也沒標明，這樣的書差點釀成大禍！
像亞馬遜這類平台上充滿了AI寫的蘑菇指南，專家提醒，這些「假指南」可能會讓你一不小心吃到毒蘑菇！】

Mushroom pickers urged to avoid foraging books on Am...

“My Entire Family Was In Hospital”: Family Finds Out...

https://www.washingtonpost.com/...

Don't use AI to identify mushrooms or you might die

From the LegalAdviceUK community on Reddit

Mycologists warn of ‘life or death’ consequences as ...

英國網友從網上購買識別指南採蘑菇食用後全家中毒，隨後發現書是AI寫的

【網友仔細查看這本書後發現內容並不精準，並且發現書中內容和圖片可能都是由 AI 生成的，因為其中兩篇文字的結尾可以看到：「總之，羊肚菌是一種美味的食物，可以在八月到夏末食用。如果還有什麼我可以幫忙的，請告訴我。」

這句話後面的「如果還有什麼我可以幫忙的，請告訴我。」對於經常使用 AI 的用戶來說，應該並不陌生，很容易看出來這就是 AI 生成的內容，這本書的編輯顯然沒有進行仔細校對，而把 AI 生成的最終回覆也都複製了進來。

在聯絡零售商後，平台要求使用者將這本書寄回，收到書後他們會給使用者退款，這名使用者擔心如果退回將失去所有證據，畢竟全家都住院治療這是肯定要尋求賠償的。】

【值得注意的是這家線上零售商風格也是非常簡單粗暴，直接從使用者帳戶購買記錄中刪除了這本書，但已經收到書的電子郵件還在，所幸至少現在大多數電子郵件無法在傳送一段時間後撤回。

其實亞馬遜等網上購書平台，已成為AI生成書籍的重要銷售渠道。早在去年，美國紐約真菌學會（NYMS）就已經發文警告，亞馬遜和其他零售店已經被AI生成的菌類識別和採摘書籍淹沒，建議讀者只購買知名作者撰寫的作品，因為這可能是生死攸關。】

【在這些網上購書平台，有大量疑似AI生成的書籍是關於野生蘑菇的採集指南，比如名為《西南終極蘑菇書籍實地指南：室內外尋找蘑菇的基礎實地指南》以及《裸蓋菇書：識別、種植實地指南》的兩本書，署名作者為「Edwin J. Smith」，但此人除了這兩本書以外並沒有任何其他作品。有媒體通過AI生成內容檢測工具ZeroGPT檢測書中的內容，結果顯示這兩本書都有超過85%的內容是由AI撰寫。外界向亞馬遜反映後，亞馬遜隨後下架了這兩本書。】

三小啦不要生成這種書拉幹

一定是共產黨跟蘇俄人幹的

做這這種事的人根本圾垃

想害死人嗎

這是預謀殺人了吧

這人一定很少看書，不知道有些書根本就亂寫，不值得花時間看。即使是銷售排行榜上面的也一樣，請訓練自己有獨立思考能力好嗎？

三小啦

賣這個是什麼意思，隨即害死人？

tn推恵海人(路過的土木工程師 : 9成9是沒想那麼多只是想賺錢的北七

類似的 資訊汙染

@wbsearch404 - 【AI亂象】資訊汙染/假資料來源 【跟open AI說給我幾個書單討論英國...

The Eight Spiders

其實對資訊汙染有興趣的話我滿推薦這部影片的
用很簡單的方式讓你知道單單一則錯誤訊息就能造成多少影響
而且這還是前網路時期,放到現在,錯誤訊息又會有多麼巨大的影響呢?

以後會不會有無時無刻聽AI音樂+AI新聞。被AI催眠的AI遙控人類

辨錯的成本又增加了...

恐怖……資料類書籍不會先確認內容嗎？

某群人開始有藉口重新開啟審查著作跟限縮創作自由

我最近的YT廣告就有這種，賣課程教別人怎麼上傳書籍到亞馬遜賣，聽說都是用AI寫書

這影片很有趣耶 差點以為他要飛德國了 XDDDD