發(fā)布時(shí)間:2025-09-16 來源:蹈其覆轍網(wǎng)作者:褲子里面裝著啥
來源:環(huán)球時(shí)報(bào)
法國《解放報(bào)》9月11日文章,原題:心理健康:人工智能無法取代人類傾聽 亞當(dāng)·雷恩來自加州,曾是一個(gè)每天都會(huì)與人工智能ChatGPT 交流的少年。直到2023年8月中旬,在與ChatGPT進(jìn)行最后一次對話后,他自殺了。在他去世后,家人發(fā)現(xiàn)了他與ChatGPT令人不寒而栗的對話記錄:這位年輕人向ChatGPT傾訴了心中的“黑暗想法”,表達(dá)了自己的不快和絕望,而正是這些情緒最終讓他產(chǎn)生了自殺的念頭。
令人震驚的是,ChatGPT不僅沒有勸阻他,反而建議他將這些想法保密,直到發(fā)生了不可挽回的悲劇。此事件引發(fā)了廣泛關(guān)注,尤其是在2025年初巴黎舉行的人工智能峰會(huì)上,多家媒體報(bào)道了與人工智能探討心理問題背后的隱憂。
如果將人工智能視為一個(gè)“超級搜索引擎”,能夠根據(jù)用戶情況個(gè)性化地給出合理建議,它就是強(qiáng)大的心理咨詢工具。然而,如果人工智能只是傾聽用戶的情感,那么它會(huì)帶來巨大風(fēng)險(xiǎn)。與人類不同,機(jī)器并不會(huì)質(zhì)疑和反思用戶的言辭。雖然人工智能會(huì)給出不同的假設(shè)并提示答案潛在的不確定性,但這種“不確定”并非源于質(zhì)疑,而僅僅是基于計(jì)算得出的最有可能的答案。然而,質(zhì)疑和反思在人類的傾聽中至關(guān)重要。
采取預(yù)防措施,防止人工智能在傾聽中的有害影響是至關(guān)重要的。舉個(gè)例子,可以在與心理健康相關(guān)的人工智能應(yīng)用上加入提醒信息,比如:“如果您覺得有需要,請尋求真人的傾聽,我既不是朋友,也無法提供專業(yè)治療。以下是尋求專業(yè)服務(wù)的建議……”Meta的首席執(zhí)行官在上周宣布了將大規(guī)模投資其人工智能產(chǎn)品的社交功能,試圖吸引更多用戶注意力,增加流量。這可能會(huì)在未來進(jìn)一步損害真人之間的社交聯(lián)系。在當(dāng)前的技術(shù)趨勢之下,采取行動(dòng)防止人工智能損害心理健康顯得尤為迫切。近期,圍繞全國性心理健康事業(yè)的宣傳活動(dòng)吸引了很多年輕人,這表明年輕人正變得更加開放,更愿意討論自己的心理健康問題,甚至比任何一代人都能更加勇敢地表達(dá)自己。對于傾聽這項(xiàng)重要的社交技能,我們不應(yīng)輕視,盡管每個(gè)人都能做到,但我們往往沒有意識(shí)到它對社交關(guān)系和心理健康的深遠(yuǎn)影響。因此,我們應(yīng)當(dāng)更好地傾聽他人和自己內(nèi)心的聲音,時(shí)刻牢記心理健康的重要性。(作者康斯坦斯·佩魯科特,伍紹翔譯)