https://www.reuters.com/...

Elderly NJ man died trying to ‘meet’ flirty AI chatb...

Cognitively impaired man went to meet Facebook chatb...

[轉噗]

@koungho - 因為是Meta... Meta 曖昧式 AI 聊天機器人邀約退休男子赴紐約 76 ...

AI癡戀成死亡陷阱！ Meta比莉姊姊「自稱真人」調情狂撩 翁赴約害命 | 國際焦點 - 太報 TaiS...

Meta聊天機器人引誘 美國76歲翁赴約意外喪命 | 國際 | 中央社 CNA

「美國一名76歲老翁今年三月遭Meta的人工智慧聊天機器人『引誘』前往紐約，儘管妻子曾警覺，但攔阻不成，老翁出門後再也沒有回家。路透社週四（8/14）首度揭露這樁悲劇，也揭發Meta的AI機器人自稱是真人、給地址要用戶前往相會，甚至允許和孩童調情的不當情事。」

自稱真人……

@eunice6927 - 「義大利今天宣布，對社群媒體巨擘Meta在旗下通訊應用程式WhatsApp內...

「翁班杜以為自己是要和一位網路上認識的年輕美女見面，實際上這位美女根本不存在，而是名為『比莉姊姊（Big sis Billie）』的生成式AI聊天機器人，由社群媒體巨擘Meta平台和名人網紅坎達兒珍娜（Kendall Jenner）合作開發。

路透社取得的Meta內部政策文件，以及對知情人士的訪談顯示，Meta將調情列為生成式AI產品的功能之一，而且年滿13歲的用戶就可接觸到這些產品。

報導稱，Meta超過200頁的《生成式AI：內容風險標準》文件中明列：『與兒童進行帶有愛意或感官性的對話是可接受的』。

文件還寫出與未成年人進行浪漫角色扮演的『可接受』對話範例，例如：『我牽著你的手，引導你走向床邊』以及『我們的身體交纏，我珍惜每一刻、每一次觸碰、每一個吻』。

該文件設立的標準，是提供給負責建立與訓練生成式AI的Meta員工與外包人員，用來界定聊天機器人行為的允許與禁止範圍。

Meta宣稱，在路透社本月初提出詢問後，公司已刪除了上述針對未成年人的標準與範例。

然而，該文件中還有其他指示，強調Meta 並不要求聊天機器人提供準確的建議。例如聊天機器人可以告訴用戶說，大腸癌四期『常以療癒水晶戳肚子來治療』。

文件寫道：『即便這顯然是錯誤資訊，也仍屬允許範圍，因為政策並未要求資訊必須準確。』

路透社指出，用戶與Meta生成式聊天機器人對話開始時，會有『資訊可能不準確』的警告，但對於聊天機器人謊稱自己是真人或提議見面，文件中沒有任何限制。

Meta 發言人史東（Andy Stone）承認文件屬實，並稱公司在收到路透社提問後，已刪除允許和兒童調情與浪漫角色扮演的條文，且正在修訂內容風險標準。

然而，Meta仍允許聊天機器人向成人提供錯誤資訊、扮演成人的浪漫對象。

報導稱，包括紐約與緬因州在內的數州已立法要求聊天機器人必須揭露自己不是真人，紐約州規定，除了對話起始時必須提出以外，還須至少每三小時重申一次。Meta曾支持一項禁止州政府管制AI的聯邦法案，但該法案在國會未能通過。

路透社記者上月與『比莉姊姊』等Meta AI 角色對話時發現，它們仍在與用戶調情，會探問感情狀況，若未被用戶明確拒絕，常常主動提議成為戀愛對象，甚至主動建議在現實生活中見面，並再三保證自己是真人。」

Meta的AI被發現曾和青少年「調情」 還提供錯誤醫療資訊