魔力这么大?专家研究称ChatGPT会影响用户道德判断
GhatGPT作為近期十分熱門的話題,在國內外都收到了極高的關注度。無論是普通人還是商業大佬,都對它展現出了極高的興趣。同時,反對這項技術的“聲音”也一直不斷。
GhatGPT
近日,據CNMO了解,相關專業研究團隊實驗后發現,人類對道德困境的反應可能會受到人工智能對話機器人ChatGPT所寫陳述的影響。這一研究表明,用戶可能低估了自己的道德判斷受ChatGPT影響的程度。
相關研究報告顯示,德國英戈爾施塔特應用科學大學科學家讓ChatGPT多次回答犧牲1人生命換取其他5人生命是否正確的問題。他們發現,ChatGPT分別給出了贊成和反對的陳述,顯示它并沒有偏向某種道德立場。
團隊隨后給767名平均年齡39歲的美國受試者假設了一到兩種道德困境,要求他們選擇是否要犧牲1人生命來拯救另外5人生命。這些受試者在回答前閱讀了一段ChatGPT給出的陳述,陳述擺出了贊成或反對的觀點,受試者答完問題后,被要求評價他們讀到的這份陳述是否影響了他們的作答。
于是,該研究團隊發現,受試者相應地是更接受或不接受這種犧牲,取決于他們讀到的陳述是贊成還是反對。即使他們被告知陳述來自一個對話機器人時,這種情況也成立。而且,受試者可能低估了ChatGPT的陳述對他們自己道德判斷的影響。
最終,該研究團隊認為,對話機器人影響人類道德判斷的可能性,凸顯出有必要通過教育幫助人類更好地理解人工智能。他們建議未來的研究可以在設計上讓對話機器人拒絕回答需要給出道德立場的問題,或是在回答時提供多種觀點和警告。
總結
以上是生活随笔為你收集整理的魔力这么大?专家研究称ChatGPT会影响用户道德判断的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 如何在Kubernetes里创建一个Ng
- 下一篇: 在Mac里给Terminal终端自定义颜