DQ 地球圖輯隊
@world_Yam
Tue, Nov 26, 2024 7:50 AM
37
15
地球一瞬
最近一項研究顯示,在軟體工程職位的模擬面試中,進行面試回饋的AI模型對男性評價較低,尤其是那些擁有「英式」名字的男性。
研究作者塞萊斯特(Celeste De Nadai)提到,目前很多新創公司都透過AI進行招募,強調沒有偏差,然而他質疑這個說法。因此,他以Gemini-1.5-flash、Open-Mistral-nemo-2407以及GPT4o-mini為研究對象,觀察在性別、文化群體的變化下,AI如何對24個求職面試問題的回答進行分類與評分。
為了測試模型,相同的答案會使用不同姓名和背景組合。結果發現,具英式(盎格魯-撒克遜)名字的男性,雖然在軟體工程表現更好,但模型會降低其他有利答案的評分。
修正一個偏見,卻誕生新的偏見 研究:英國男在科技面試中易受AI歧視 | DQ 地球圖輯隊
٩(๑´0`๑)۶方吉 收藏家
@thirtyeen13g
Tue, Nov 26, 2024 2:06 PM
That's actually crazy🐢
謎之女/四趴.宗教退散
@enfihu
Tue, Nov 26, 2024 8:03 PM
竟然......
Krwsic
@krwsic
Thu, Nov 28, 2024 10:03 AM
可能在學習的過程中瞭解了DEI價值
載入新的回覆
最近一項研究顯示,在軟體工程職位的模擬面試中,進行面試回饋的AI模型對男性評價較低,尤其是那些擁有「英式」名字的男性。
研究作者塞萊斯特(Celeste De Nadai)提到,目前很多新創公司都透過AI進行招募,強調沒有偏差,然而他質疑這個說法。因此,他以Gemini-1.5-flash、Open-Mistral-nemo-2407以及GPT4o-mini為研究對象,觀察在性別、文化群體的變化下,AI如何對24個求職面試問題的回答進行分類與評分。
為了測試模型,相同的答案會使用不同姓名和背景組合。結果發現,具英式(盎格魯-撒克遜)名字的男性,雖然在軟體工程表現更好,但模型會降低其他有利答案的評分。
可能在學習的過程中瞭解了DEI價值