AI造成的社會風險

假訊息AI化！學者發現影子團體操縱政治新聞 背後很多鬼 | 聯合新聞網

國立政治大學新聞學系教授劉昌德今天說，調查後發現許多重要議題都有固定團體在操作假訊息，有些媒體解決方法是沒被證實的訊息就先不報導，並與事實查核組織合作查核假訊息。

國立台灣大學新研所舉辦「總統大選期間的假新聞攻擊與台灣社會因應之道報告發表暨論壇」，提及總統選舉期間有不少人工智慧（AI）假訊息。
昭昭的社會複習日常

劉昌德說，有些媒體的解決方法是採取謹慎措施，沒被證實的訊息就先不報導，並與事實查核組織合作查核假訊息，依賴第3方專業知識和專業記者經驗，用「人腦AI」對抗AI。

史上最大選舉年，40億人將投票！AI如何放大「說謊者紅利」，使政客從信任崩壞得利？ - 未來城市＠天下 ...

2024是史上最大的選舉年，包括台灣、美國、印度、印尼等50多國，破40億人將投下神聖的一票，假消息也爆炸性成長。
在生成式人工智慧的助攻下，假消息追蹤組織NewsGuard發現，AI生成的假新聞網站在半年內成長超過1000%；部份網站每天可生成數百乃至數千篇假新聞，真正的鬼話連篇，而且還翻成15種語言。

境外勢力當然不會錯過。去年九月微軟警告，他們發現中國創大量假帳號，利用生成式AI「模仿美國選民」，散布假消息，企圖影響美國大選。

即便是美國自己，不分黨派，上至總統候選人下至選議員，都爆出競選廣告中用AI改圖、語音複製、深偽影片（deepfake）等，最近甚至進化到用個人化AI助選員打電話催票。

這完全就是ChatGPT之父奧特曼（Sam Altman）的惡夢成真。

2024/4/5 21:05

媒體識讀16／微軟：中國借助AI散播假訊息 鎖定台美選民 | 國際 | 中央社 CNA

微軟（Microsoft）今天（2024/4/5）新發布網路威脅報告確認了這些策略，將國家支持對外國選民秘密進行網路影響行動，與運用生成式AI工具的情況直接掛鉤，並且首度加以揭露。相關策略展現出比之前更先進的手法。
這是微軟的網路威脅研究員首次發現國家行為者利用AI試圖影響外國選舉。

【假新聞充斥恐影響大選】媒體及政治人物是釋出亂源？ 學者提醒勿被下意識洗腦

東吳大學巨量資料管理學院暨資料科學系副教授胡筱薇受訪時表示，傳統媒體的從業人員，還受到NCC的制約，自媒體未受約束，利用生成式AI技術，就可合成假新聞，在選戰時混淆視聽。

⭐事實上，假新聞以前就有，但過去是以耳語或是街頭巷議的方式傳播，觸及的多半都是認識的人。今日各樣假訊息及新聞，透過科技工具及社群網路接觸到的，已經是千里之外且素未謀面的陌生人。

胡筱薇說，假新聞的判斷有時並不容易，因為需要具備該領域的相關知識，如果不是相關背景的人，常真假難辨。

✍️初學者還是回歸紙本學習，因為無法保證AI給的內容是真是假，一旦學歪要改回來很難。有基礎以後再跟AI學習。

AI給的中文資料誰知道是誰給的模型？是哪國人給的模型？

行銷學上的「下意識知覺」（subliminal perception）。

OpenAI：中俄等組織以 AI 技術試圖操縱全球輿論

我就想說怎麼沒俄羅斯的影子，找了一下，還是有的嘛~

美國法案通過

@vucp6 - 法案通過後，美國open ai停止中國服務 中國極度專制及守舊觀念，抑制自身創新研發。...

假訊息

@wbsearch404 - 【AI亂象】資訊汙染/假資料來源 【跟open AI說給我幾個書單討論英國...

@LotusMartus - 0911/

假訊息與心理學

忘東忘西不是你變老了，只是大腦搞錯了~突然忘記要幹嘛/既視感/翻舊帳/假訊息《記憶決定你是誰》｜哇賽讀心...

AI形成的非官方詐騙訊息，騙錢

@fakenewscleaner - 上週到嘉義 DOC 上課，前面跟大哥大姊們互動時，發現大家科技能力...