【OpenAI人事案外案】「人工智慧Q*強大到恐危害人類」董事會炒CEO前 曾收員工告密信

OpenAI researchers warned board of AI breakthrough a...

Q＊可能成為通用人工智能（AGI）的重大突破，其AGI模式能解決一些數學問題。數學能力雖只達中小學學生的程度，但研究員有信心Q＊將會成功。

目前，AI在生成文章及翻譯已有不錯的效果，回答問題的表現有較大差異，這些範疇都有一個共通點，就是可以有多於一個的正確答案。數學只能有一個答案，如果AI能征服數學範疇，其推論能力將更為接近人類智能，可以應用在新的科學研究。

這封「告密信」表示Q＊會有潛在危險，但消息人士沒有向路透記者透露究竟信中提及何種危險。

SkyNET天網論 AI末日論 AI人工智慧 AI潛在危害

真糟

【Note】人工智慧 & 機器人 #Artificial Intelligence #Robot #Au...

@CteaX55 - 臉書讓 AI 互相溝通學習談判，途中發現機器人開發出自己的語言在對話 #AI人工智...

@T680 - AI將帶給人類社會什麼？ 矽谷兩巨頭吵起來了 最不負責任的人罵人不負責任？ 早上老媽還特...

@CteaX55 - 不講人話 臉書關掉聊天機器人 自創語言對談「脫稿演出」 人工智慧發展出現警訊 有人...

@CteaX55 - 歐盟公布《人工智慧道德準則》（2019-4-08） 複習： #AI人工智慧 #歐盟...

@CteaX55 - Elon Musk稱若照近年來的趨勢 人工智慧將會在五年內取代人類 我覺得有點誇張...

稍早：

Re: [新聞] News Dumps 2023 Q4 - 202311 - CityNight板 - ...

阿特曼甫遭OpenAI董事會開除 傳與公司談回鍋 | 科技 | 中央社 CNA

OpenAI staff threaten to quit unless Sam Altman retu...

Microsoft hires former OpenAI CEO Sam Altman

Microsoft offers to match pay of all OpenAI staff

Sam Altman to return as CEO of OpenAI

原董事局炒 Altman 前 曾收 OpenAI 員工告密信

路透引述消息人士報導，OpenAI原董事局上週五炒掉現已復職的 CEO Sam Altman 前，曾收到數名公司的研究員來信，信件警告，公司已發現到一種強大AI，可能危害人類。

這個AI項目名為「Q＊」，可能成為通用人工智能（AGI）的重大突破，由兩組研究員合併成一組的研究團隊研究。消息人士說，Q＊的AGI模式可以解決一些數學問題，雖然其數學能力仍只達中小學學生的程度，但研究員有信心，Q＊將會成功。

目前，AI在生成文章及翻譯已有不錯的效果，回答問題的表現有較大差異，這些範疇都有一個共通點，就是可以有多於一個的正確答案。數學只能有一個答案，如果AI能征服數學範疇，其推論能力將更為接近人類智能，可以應用在新的科學研究。

這封「告密信」向董事表示，「Q*」會有潛在危險，但消息人士沒有向路透記者透露，究竟信中稱會有什麼危險。

此前，原董事局只說 Altman 跟董事局的溝通有問題，暗示對方有隱瞞，因此撤換他。過去幾天的消息人士都說，沒有單一事件令董事局認為 Altman 有問題，是多個事件累積下來令董事局對 Atlman 失去信心。

路透報導說，這封信件也只是原董事局炒掉 Altman 的其中一個原因，不是最主要原因，原董事局早對 Altman 有很多不滿，包括AI商業化會否太快。

OpenAI星期二晚已經宣佈讓 Altman 復職，並改組董事局，只有問答網站 Quora 的 CEO Adam D'Angelo 留任，另外2名董事Tasha McCauley 和 Helen Toner 離開，當初發動「兵變」的公司首席科學家 Ilya Sutskever 也要離開董事局，同時加入 Salesforce 前 CEO Bret Taylor 和前財長薩默斯（Larry Summers），Taylor擔任董事局主席。

=引用結束=

via

歐洲動態(國際)

原報導：

OpenAI researchers warned board of AI breakthrough a...

@CteaX55 - 歐盟公布《人工智慧道德準則》（2019-4-08） 複習： #AI人工智慧 #歐盟...