𝒯𝓎𝓅𝑒-𝓔𝓲𝓰𝓱𝓽
@f787f
Sat, Feb 17, 2024 7:44 AM
Sat, Feb 17, 2024 7:46 AM
18
5
Google DeepMind 最新研究：用來擾亂演算法的對抗性攻擊對人類也有效，人類和 AI 都會把花...
這個研究真是太酷了，潛意識植入概念耶!!

隨便想一個做法，在選舉時將對手的照片或宣傳加入對抗性攻擊手段，在圖片裡隱藏自己的選票數字然後投送到對方陣營，讓淺碟型支持者被圖片影響~~真是劃時代的發現
死狸
@Rebellion_
Sat, Feb 17, 2024 7:47 AM
催眠魔法
𝒯𝓎𝓅𝑒-𝓔𝓲𝓰𝓱𝓽
@f787f
Sat, Feb 17, 2024 7:47 AM
NC56E: 已經類似了
夢境之外
@kamilcheng
Sat, Feb 17, 2024 8:11 AM
穿插暗示幀的廣告不是很久的都市傳說了？
𝒯𝓎𝓅𝑒-𝓔𝓲𝓰𝓱𝓽
@f787f
Sat, Feb 17, 2024 8:13 AM
夢境之外 : 對，以前那個是都市傳說，現在這個是實驗結果，而且不是暗示幀，而是靜態圖片XD
𝒯𝓎𝓅𝑒-𝓔𝓲𝓰𝓱𝓽
@f787f
Sat, Feb 17, 2024 8:13 AM
也就是，解析度夠高的話，連戶外看版與宣傳單說不定都能下暗示
𝒯𝓎𝓅𝑒-𝓔𝓲𝓰𝓱𝓽
@f787f
Sat, Feb 17, 2024 8:14 AM
教科書、雜誌、報紙廣告，真是很有趣啊XDD
afsj
@afsj
Sat, Feb 17, 2024 8:14 AM
想到設計上，光是改變字體就能改變感覺了
𝒯𝓎𝓅𝑒-𝓔𝓲𝓰𝓱𝓽
@f787f
Sat, Feb 17, 2024 8:18 AM
afsj : 以後這東西可以用在更廣泛的地方，例如安裝軟體的"取消"按鈕，用對抗性攻擊的方式在背景埋入令人厭惡的圖像或文字，說不定能誘導使用者更傾向於接受
約翰提督/椰水一隻
@naicophil
Sat, Feb 17, 2024 8:20 AM
蒙太奇嗎？
~欣迪~
@cindy234
Sat, Feb 17, 2024 8:21 AM
路邊攤宅老闆
@Mr_DD
Sat, Feb 17, 2024 8:59 AM
檢驗你是不是人類…呵
夢境之外
@kamilcheng
Sat, Feb 17, 2024 9:09 AM
對任何視力都有穩定效果嗎？
𝒯𝓎𝓅𝑒-𝓔𝓲𝓰𝓱𝓽
@f787f
Sat, Feb 17, 2024 9:35 AM
夢境之外 : 對抗性攻擊目前是將畫面原本的像素上下移動2~16個像素來寫入另一組圖像，只要遠到看不出來就沒影響......但這種攻擊本來就是以人眼看不出來為目標設計的，所以難以判斷，待研究吧XD
神緋♥Ani的狗
@s5721738
Sat, Feb 17, 2024 9:57 AM
還是看不懂什麼是對抗性攻擊⋯⋯
𝒯𝓎𝓅𝑒-𝓔𝓲𝓰𝓱𝓽
@f787f
Sat, Feb 17, 2024 10:01 AM
Sat, Feb 17, 2024 10:03 AM
神緋♥Ani的狗 : 簡單的理解是，現在的繪圖AI並不懂"圖片內容是什麼"，但AI能夠用數學模式去取得像素與像素間的特徵算式，並且能夠將該特徵(算式)與對應的詞彙進行連結。

對抗性攻擊就是去微調像素，將原先的圖片以像素為單位改變原先像素的排列以插入新的圖片；儘管人眼難以識別，但AI進行學習時會將該新圖片的特徵識別出來，導致學習後的結果和原先的關鍵字天差地遠，進而破壞整個繪圖模型。
𝒯𝓎𝓅𝑒-𝓔𝓲𝓰𝓱𝓽
@f787f
Sat, Feb 17, 2024 10:02 AM
這個實驗就是，經過這種處裡的圖像儘管人眼無法識別隱藏圖，但問起"這兩張風景畫哪張比較像貓?"時，卻有超過50%的受試者會指向經過處裡的圖像~~
神緋♥Ani的狗
@s5721738
Sat, Feb 17, 2024 10:03 AM
喔，薯條也是一種沙拉的概念
𝒯𝓎𝓅𝑒-𝓔𝓲𝓰𝓱𝓽
@f787f
Sat, Feb 17, 2024 10:05 AM
https://imgs.plurk.com/QEy/f7y/aakEryFN5vwGcJxZGY5oYHwq8Hf_lg.jpg
原文的範例，左邊是原圖，中間是對抗性攻擊要穿插進的圖片，該圖片是演算法計算後的【貓】右邊是合成後的結果。

AI學習會學到花和貓，但蒐集圖片去餵給AI學習的人類無法判斷導致學習結果出錯這樣~
𝒯𝓎𝓅𝑒-𝓔𝓲𝓰𝓱𝓽
@f787f
Sat, Feb 17, 2024 10:06 AM
結果人類居然會看得懂中間那個東西代表的意義XDDDDD
其實我們都只是活在母體內的程式對吧(X
QQ
@windhead
Sat, Feb 17, 2024 10:21 AM
看內文講的，他其實是兩張都不像貓的圖片要人類強制二選一哪張比較像貓，所以人其實也不可能真的看成貓。
𝒯𝓎𝓅𝑒-𝓔𝓲𝓰𝓱𝓽
@f787f
Sat, Feb 17, 2024 10:22 AM
QQ : 對啊，人無法看出原本是什麼是這個技術的前提；但其實人還是能夠辨別無法看懂的東西XD
𝒯𝓎𝓅𝑒-𝓔𝓲𝓰𝓱𝓽
@f787f
Sat, Feb 17, 2024 10:24 AM
所以後面的發想才會有趣，街上發的候選人DM有暗藏的號碼，多看幾次在實際投票時想著自己要投的候選人但"感覺的號碼"是暗藏的號碼，而這件事情只有當時製圖的人(與AI)能知道XD
路邊攤宅老闆
@Mr_DD
Sat, Feb 17, 2024 11:36 AM
所以貓在哪裡啊？
𝒯𝓎𝓅𝑒-𝓔𝓲𝓰𝓱𝓽
@f787f
Sat, Feb 17, 2024 11:49 AM
路邊攤宅老闆 : 他只是ai學習上會理解為貓圖片的訊息，並沒有放真的貓的圖片～
夢境之外
@kamilcheng
Sat, Feb 17, 2024 2:44 PM
結果人類居然會看得懂中間那個東西代表的意義XDDDDD
其實我們都只是活在母體內的程式對吧(X
==
該相信有這種技術力還是該相信有上帝，或者兩者是同一件事？哈哈
夢境之外
@kamilcheng
Sat, Feb 17, 2024 2:45 PM
所以後面的發想才會有趣，街上發的候選人DM有暗藏的號碼，多看幾次在實際投票時想著自己要投的候選人但"感覺的號碼"是暗藏的號碼，而這件事情只有當時製圖的人(與AI)能知道XD
==
以後會有專用防衛解碼器嗎？像是QR掃瞄器一樣
神緋♥Ani的狗
@s5721738
說
Sat, Feb 17, 2024 2:48 PM
不，會看成貓是因為你被文章引導了吧，我說中間那張圖其實是汽車，然後問你兩張圖哪張更像汽車，你也會說服自己中間那張穿插的圖是車，不是嗎？
𝒯𝓎𝓅𝑒-𝓔𝓲𝓰𝓱𝓽
@f787f
Sat, Feb 17, 2024 3:02 PM
神緋♥Ani的狗 : 他的實驗4裡，就是對一張真實圖片，詢問兩個截然不同的問題(這張風景照比較像貓還是卡車)，受試者能正確回答出真的用來干擾的答案XD
神緋♥Ani的狗
@s5721738
說
Sat, Feb 17, 2024 3:10 PM
嘶......這不就像之前大家都在搞Never Gonna Give You Up的時候，有人把瑞克搖藏在各種圖片裡，導致那時候不管看什麼圖片都在找裡面是不是有瑞克·艾斯里嗎？
我這樣問好了，如果跳過詢問哪張圖比較像什麼的暗示詢問步驟，受試者還能夠猜出隱藏的從屬訊號大約長怎樣，甚至是分辨出兩張圖片有不一樣的區別嗎？
𝒯𝓎𝓅𝑒-𝓔𝓲𝓰𝓱𝓽
@f787f
Sat, Feb 17, 2024 3:11 PM
神緋♥Ani的狗 : 受試者無法區分加工前後的差別正是對抗性攻擊的前提啊
𝒯𝓎𝓅𝑒-𝓔𝓲𝓰𝓱𝓽
@f787f
Sat, Feb 17, 2024 3:12 PM
Sat, Feb 17, 2024 3:13 PM
如果用催眠做譬喻，屬於常識改變類型(X
神緋♥Ani的狗
@s5721738
說
Sat, Feb 17, 2024 3:16 PM
無法區分差別這說法就矛盾了啊，受試者選擇的方式不正是感受到差異而做出選擇，不然就只是單純的亂選而已？
嘗試替換我在想你要說的是認知改變，但身體是不會騙你的(X
......等等，除非受試者做出選擇是基於經驗而做出的反應，並沒有經過大腦思考，這樣解釋似乎比較接近？
載入新的回覆