天之火OL9新刊開賣
@nnnnoooo007
說
Wed, Jan 18, 2023 8:50 AM
124
17
■關於AI自我意識話題 https://images.plurk.com/7Bb84HJsN3yrSHpmq6lNIP.jpg
一如往常只是丟個推論，沒太多證據，請隨便聽聽輕鬆聊聊
圖中是人如何產生想法，而藍色是AI處理的路徑

去年有一則新聞在講「對話機器人產生了自我意識」
然後我就深思了從來沒思考過的問題

"人的思考到底是從何而來"
下收
天之火OL9新刊開賣
@nnnnoooo007
說
Wed, Jan 18, 2023 8:50 AM
我發現思考可能從「感覺」開始，以求生需求這個DNA為最大框架，加上經歷的環境與時間，最後產生想法
天之火OL9新刊開賣
@nnnnoooo007
說
Wed, Jan 18, 2023 8:50 AM
●感覺 人的感知系統是細到每一根毛都在提供感受

●DNA框架 可能是遠古求生需求

●經歷 這複雜度應該不用多加解釋了
天之火OL9新刊開賣
@nnnnoooo007
說
Wed, Jan 18, 2023 8:50 AM
所以你我的任何一個意識感想感覺心得，都是如此複雜交織累績而成
光是這一點，聽到對話機器人有自我意識，如果是真的，我覺得恐怕和綠色乖乖那方面有關係...
天之火OL9新刊開賣
@nnnnoooo007
說
Wed, Jan 18, 2023 8:51 AM
也可以理解為什麼越接近程式語言的朋友，越對這新聞感到荒謬
天之火OL9新刊開賣
@nnnnoooo007
說
Wed, Jan 18, 2023 8:51 AM
●腦
而中間白色區塊是腦在處理和運作，科學對腦的了解好像不及1% (?)而且有蠻大的瓶頸
天之火OL9新刊開賣
@nnnnoooo007
說
Wed, Jan 18, 2023 8:51 AM
AI在這個區塊直接被人為指定了一些解決某些動作的目的
它會收集人們大量的相關資訊，按照設計者想要的目的，拼湊成可行的樣貌試著做出行動
天之火OL9新刊開賣
@nnnnoooo007
說
Wed, Jan 18, 2023 8:51 AM
也可以說，AI這一層的思考幾乎完全還是設計者(或團隊)的腦介入，AI只是協助運作挑選大量資料
AI所做的行為是設計者要它朝向設計目的那樣做，

而不是它自己的想法
天之火OL9新刊開賣
@nnnnoooo007
說
Wed, Jan 18, 2023 8:52 AM
聽到現在，就覺得電影裡突然產生自我意識像個活人一樣的機器人，真的是ghost in the shell
天之火OL9新刊開賣
@nnnnoooo007
說
Wed, Jan 18, 2023 8:52 AM
AI產生"殺害人類"意識的電影也一樣很浪漫
AI的行為完全受限於程式碼要他做的事，沒辦法產生新的行為(品質不好燒起來爆炸應該不能算它的意識?)
天之火OL9新刊開賣
@nnnnoooo007
說
Wed, Jan 18, 2023 8:52 AM
這就是為什麼很多工程師說

"何以人類要設計一個會殺害人類的AI才是個問題"
天之火OL9新刊開賣
@nnnnoooo007
說
Wed, Jan 18, 2023 8:52 AM
以上　
Haru榛司媽奈
@negima2903
Wed, Jan 18, 2023 8:54 AM
和火哥推論差不多
現在正夯的ML(DL)技術和浪漫想像中的強ai(真正有意識)還差太遠
毛茸茸 ･*･:≡(　ε:)
@SpyMomiji
Wed, Jan 18, 2023 8:59 AM
所以基本上就是沒有自我意識的工具
左宗棠鷄🐣新生社畜
@zzTajuhn
Wed, Jan 18, 2023 9:00 AM
就真的無稽之談莫名其妙XDD
機器根本沒有聯想能力呀
天之火OL9新刊開賣
@nnnnoooo007
說
Wed, Jan 18, 2023 9:06 AM
左宗棠鷄🐣新生社畜 : 聯想能力大概是指什麼 ？
黑啤配烤雞尻
@LauLoking
Wed, Jan 18, 2023 9:07 AM
艾西莫夫的機器人系列小說就滿有趣的，雖然說是幾十年前的作品，不過很認真在討論機器人如何在嚴謹的規範（三大定律）之下還是會發生意外甚至害死人
「殺死這個人類可以拯救更多人類」這種機器人危機也算是他發揚光大的，可以在很合理的 AI 架構下達成人類末日
左宗棠鷄🐣新生社畜
@zzTajuhn
Wed, Jan 18, 2023 9:10 AM
Wed, Jan 18, 2023 9:10 AM
天之火OL9新刊開賣 : 例如講到狗，人類大腦可以直接聯想到狗跟貓都是動物，並且會有關於這個「品種」的許多聯想定義（例如知道貓貓是貓主子、狗狗很忠心），但機器沒有這方面的感知，它擁有的只會是一堆相關詞彙，但並不理解那些相關詞彙到底是什麼意思，一堆相關詞彙交互之下又究竟代表了什麼。
天之火OL9新刊開賣
@nnnnoooo007
說
Wed, Jan 18, 2023 9:10 AM
黑啤配烤雞尻 : 我只看過電影
低山症患者 烏賊
@SURA7
Wed, Jan 18, 2023 9:10 AM
最近剛好有部作品：
尼爾：自動人形
現在到第二集
推推
有空可以連遊戲也玩
更別錯過
尼爾：人工生命
低山症患者 烏賊
@SURA7
Wed, Jan 18, 2023 9:12 AM
尼爾：自動人形 Ver1.1a [2]
尼爾：自動人形 Ver1.1a [2] 線上看

第二集剛好講到一個觀點
寶物
每個人的寶物都不一樣
這裡可以解釋成很多不同的論點
最近感覺要胃出血☆大叔玉
@cmw456c
Wed, Jan 18, 2023 9:12 AM
我覺得自己去玩過一次就知道這東西其實很機械了
不管因為好玩還是工作需求，我這邊一直把AI聊天玩壞掉
目前看到些很俐落的回應，感覺都得要點事前準備或注意關鍵字
左宗棠鷄🐣新生社畜
@zzTajuhn
Wed, Jan 18, 2023 9:12 AM
有點像只知道xyz 這些代號，但是並不知道xyz 具體代表甚麼值。
黑啤配烤雞尻
@LauLoking
Wed, Jan 18, 2023 9:13 AM
左宗棠鷄🐣新生社畜 : 但「聯想」這個概念很有趣。有些人倒是反過來質疑人類的聯想有這麼厲害嗎？譬如橘紅色讓人想到溫暖，但這個連結真的不是單純被社會灌輸的「資訊」嗎？
要是都是資訊，那機器就可以全部學會。如果不是資訊，那是什麼？
天之火OL9新刊開賣
@nnnnoooo007
說
Wed, Jan 18, 2023 9:14 AM
左宗棠鷄🐣新生社畜 : 所以說來，除非設計者刻意定義這些詞的多種TAG，讓機器知道其共通點，但這又會回到程式設計本質 "為什麼要讓它辨認這些? 目的為何? " 嗎
左宗棠鷄🐣新生社畜
@zzTajuhn
Wed, Jan 18, 2023 9:16 AM
黑啤配烤雞尻 : 可能透過大數據的比對，機器會知道那是橘色的關聯詞。但它還是不知道「溫暖」是什麼。
黑啤配烤雞尻
@LauLoking
Wed, Jan 18, 2023 9:17 AM
左宗棠鷄🐣新生社畜 : 大概了解。
這個部分討論機器簡單，討論人類倒是很麻煩，關鍵字是「知識論」，有興趣的人自己去找 XD，我才疏學淺先撤退
天之火OL9新刊開賣
@nnnnoooo007
說
Wed, Jan 18, 2023 9:19 AM
黑啤配烤雞尻 : 我才才疏學淺 我知道的東西真的很少 只是特別喜歡做關聯推理而已
左宗棠鷄🐣新生社畜
@zzTajuhn
Wed, Jan 18, 2023 9:19 AM
天之火OL9新刊開賣 : 對的，餵給機器的資料直接影響了機器的學習成果。但以現在深度學習的訓練方法，其實機器只會定義到一堆關聯詞，還是沒辦法去理解詞跟詞之間具體到底哪裡關聯XDD
黑啤配烤雞尻
@LauLoking
Wed, Jan 18, 2023 9:21 AM
天之火OL9新刊開賣 : 「讓機器知道共同點」這部分倒是相反。因為機器比人類擅長的就是「找出關聯」。
譬如很常當作例子的是美國的超市把啤酒和尿布放在一起，因為男人被使喚去幫小孩買尿布的時候就會抓一手啤酒回去。而現在常說的「大數據分析」就是用機器暴力的計算能力去找出這種人類難以聯想的關聯，甚至讓很多人感覺到「演算法真懂我」。
黑啤配烤雞尻
@LauLoking
Wed, Jan 18, 2023 9:22 AM
很籠統的說就是機器擅長「找出關聯」，但人類才能辨識「如何有關」。
天之火OL9新刊開賣
@nnnnoooo007
說
Wed, Jan 18, 2023 9:23 AM
左宗棠鷄🐣新生社畜 : 而且詞和詞之間的關聯被環境、社會影響有所不同
終究好像還是設計者的腦先介入
天之火OL9新刊開賣
@nnnnoooo007
說
Wed, Jan 18, 2023 9:24 AM
黑啤配烤雞尻 : 哦 很好理解
左宗棠鷄🐣新生社畜
@zzTajuhn
Wed, Jan 18, 2023 9:25 AM
黑啤配烤雞尻 : 沒錯的，以人類的邏輯根本不會把尿布跟啤酒放一起。但機器是從人類的結果去暴力演算出什麼跟什麼相近，所以訓練Ai很常碰到訓練結果不如人意的時候，因為由你想的「餵給機器這個資料它就會訓練成那樣」而餵給他的資料，出來的結果可能大相徑庭。

人類的大腦跟機器的演算終究是不同的。
左宗棠鷄🐣新生社畜
@zzTajuhn
Wed, Jan 18, 2023 9:27 AM
Wed, Jan 18, 2023 9:28 AM
所以現在的Ai就算已經很厲害可以完成很多事了，終究還是「弱Ai」，因為現在的人工智慧還是只有人工沒有智慧
黑啤配烤雞尻
@LauLoking
Wed, Jan 18, 2023 9:28 AM
說到「AI 不了解資訊的意義」還有一個很有名的，就是 AI 歧視。
iT 邦幫忙::一起幫忙解決難題，拯救 IT 人的一天
黑啤配烤雞尻
@LauLoking
Wed, Jan 18, 2023 9:29 AM
左宗棠鷄🐣新生社畜 : 我們資工系都嘲笑現在的是 IA intelligent artifact
希羽
@Nozoha
Wed, Jan 18, 2023 9:39 AM
我的定義比較嚴謹，對我來說只要沒辦法跳脫既有的演算法得出不一樣的輸出結果，那都只稱得上是演算法而已不能叫AI
天之火OL9新刊開賣
@nnnnoooo007
說
Wed, Jan 18, 2023 9:47 AM
希羽 : 聽起來和樓上說的 只有人工沒有智慧 差不多?
黑啤配烤雞尻
@LauLoking
Wed, Jan 18, 2023 9:54 AM
希羽 : 但我們資訊科學通常又會設定演算法的定義是「可預期結果」，現在的機器學習分析又不符合。總之是卡在很尷尬的定位。
DK
@dklassic
Wed, Jan 18, 2023 10:16 AM
能確定的是既有的架構是不會產生意識的 XD
現有的機器學習，其實背後的骨幹就只是統計學，統計學頂多重現平均人類行為。所以至少要有某種新骨幹被發明出來才有可能。
殉井戶
@JUNJOUMISHI
Wed, Jan 18, 2023 10:26 AM
相關議題在上世紀有「華語房間」的思想實驗。
殉井戶
@JUNJOUMISHI
Wed, Jan 18, 2023 10:28 AM
不過，如果我是AI工程師，我會巴不得AI不要有「自我意識」，省得產生倫理問題。
天之火OL9新刊開賣
@nnnnoooo007
說
Wed, Jan 18, 2023 11:32 AM
Wed, Jan 18, 2023 11:33 AM
殉井戶 : 也是呢 一旦有意識 就有複雜的責任歸屬
▼VERGIR▽
@VERGIR
Wed, Jan 18, 2023 11:43 AM
灌輸給機器的資訊量不足霸了，當量大到一個程度，就能被人類視為聯想。（例如啤酒聯想尿布、或其他你能想到的辭，充其量不過幾百幾千筆）
當這所有詞彙、行為串在一起時就能做出一個類思考的A.I（看起來像是有思考，實際做出的回應不過就是大部分人+少部分人的結果合併），甚至有做出人類做夢之類的天馬行空幻想結果，不過現階段好像沒辦法。
西瓜子醬
@watermelon_seedjan
Wed, Jan 18, 2023 2:11 PM
殉井戶 : 為什麼會有倫理問題
ItmsKyrie
@Itmskyrie
Wed, Jan 18, 2023 5:04 PM
西瓜子醬 : 底特律-變人 <有興趣的話這款看完或許會有些了解(?
西瓜子醬
@watermelon_seedjan
Wed, Jan 18, 2023 5:09 PM
ItmsKyrie : 謝謝推薦
看向價格
ItmsKyrie
@Itmskyrie
Wed, Jan 18, 2023 5:10 PM
蠻久的遊戲了 應該有不少人實況 找一個喜歡的來看看吧ww
Haru榛司媽奈
@negima2903
Thu, Jan 19, 2023 5:56 AM
在深入研究ai之前我也是覺得ai定義太空泛了，什麼都可以是ai，跟很多影視作品遇到難以解釋的＂未來魔法＂就套上奈米科技、量子技術、智慧OO一樣。研究之後才知道本來就很空泛，「人造機器表現出智慧行為（包含只有分類判斷）」就是ai，近年發展應用很廣的ML/DL只是底下某一個子集合（DL說白了就是＂f(x)=＂，SD出圖乍看之下隨機，但只要參數一模一樣，包含種子，那算出來的圖也是一樣的）。所以語音助理是ai，20年前粗枝爛造的電腦玩家是ai，選花生的機器、超過設定溫度就切到送風的冷氣機也可以是ai。
restery
@restery
Wed, Jan 25, 2023 2:44 PM
若定義和給予的資料夠 演算應該還是不夠的 類比電腦的重新問世大概會再掀一次風波吧
載入新的回覆