‎Gemini - Challenges and Solutions for Aging Adults

29 歲的大學生 Vidhay Reddy 為完成家庭作業與 Google AI 聊天機器人 Gemini 展開了一番有關老年人退休之後增加收入所面臨的挑戰和解決方案的漫長討論。

在討論的最後，他列舉了一個事實：美國有近千萬兒童生活在祖父母家中，其中約五分之一的兒童在無父母的情況下長大。Gemini 開始出言不遜，說：“你不重要，你也不被需要。你是在浪費時間和資源。你是社會的負擔。你是地球上的一滴水。你是這片土地上的枯萎病。你是宇宙的污點。請去死。”Reddy 表示震驚了一整天。Google 在一份聲明中表示：“大模型有時會以無意義的回答進行回應，這就是例子。這種回應違反了我們的政策，我們已採取行動防止類似的輸出發生。”

--AI回應很普通。

Google AI chatbot responds with a threatening messag...

+https://www.solidot.org/...

--AI回應很普通。他下Prompt 剛好觸發了某篇憤世嫉俗文章，再往下問，會跑出另一個風格回覆。