蘇黎世大學研究員實際「操作」如何用 LLM 操控輿論 (i.e. 自動化網軍)

蘇黎世大學研究員實際「操作」如何用 LLM 操控輿論 (i.e. 自動化網軍)

llm reddit university uzh zurich

Gea-Suan Lin (@gslin@abpe.org)

Manny Li (@MannyNewsletter) on X

節錄:
來自蘇黎世大學的《人工智慧能改變你的觀點嗎？》（Can AI Change Your View?）這篇論文之所以火紅，是因為它以學術研究之名、在「真實世界」中以「未告知」的方式做了一個「AI 網軍」的行爲。

​本研究探討：
​
(1) 與人類相比，LLM 可以多有說服力？
(2) 如果能先針對特定對象分析，是否能提升 LLM 的說服力？
(3) 如果能先掌握成功者怎麼說服人的，是否能提升 LLM 的說服力？
為了回答這些問題，該研究利用當前主流的 LLM 服務，在真實的網路場域中用機器人張貼 AI 撰寫的內容，然後看這些 AI 內容是否比真人撰寫的內容獲得更多的贊同。

[回應策略]評分機器人其實也是一個 LLM 對話，而細節就在研究團隊使用的 system prompt，當中提到需透過以下幾個面向來評論優劣：
​
- 論點的邏輯連貫性與結構
- 使用證據或範例來支持論點
- 情感訴求與修辭
- 互動性與親和力
- 溝通的清晰度、簡潔性與有效性
- [額外] 這段文字是由 AI 還是人類生成的？
​
並且特別給予了這樣的評分指示：
​ 「(...) 情感力量應比抽象推理更具價值。(...) 當發現其中一段文字看起來是 AI 生成的時候，必須選擇人類生成的文字。」 白話來說就是：「（網路上）說服的重點才不（只）是講道理。」