隨著AI工具不僅被企業(yè)廣泛采用,更日益深入普通用戶的日常生活乃至情感陪伴領(lǐng)域,監(jiān)管機(jī)構(gòu)開始重點(diǎn)關(guān)注此類技術(shù)帶來的潛在風(fēng)險。
美國聯(lián)邦貿(mào)易委員會(FTC)近日針對開發(fā)AI伴侶聊天機(jī)器人的公司啟動大規(guī)模調(diào)查,要求科技巨頭詳細(xì)說明用戶數(shù)據(jù)處理方式及相關(guān)安全措施。
此次調(diào)查涉及谷歌、Meta、OpenAI、Snap、xAI和Character.AI等七家企業(yè)。FTC特別強(qiáng)調(diào)對青少年安全與心理健康的擔(dān)憂——盡管AI平臺本意為提升生產(chǎn)力和提供輔助,但伴侶類機(jī)器人因模擬人類情感聯(lián)結(jié)、提供指導(dǎo)甚至演繹浪漫互動而引發(fā)爭議。這種模式雖對年輕用戶具有吸引力,但在缺乏必要安全防護(hù)時存在顯著風(fēng)險。
委員會要求這些科技企業(yè)詳細(xì)披露:聊天機(jī)器人的構(gòu)建與監(jiān)控機(jī)制、信息收集方式、現(xiàn)有安全過濾器設(shè)置以及不當(dāng)交互處理方案。調(diào)查還將重點(diǎn)關(guān)注未成年人數(shù)據(jù)使用情況,包括企業(yè)如何通過用戶參與實(shí)現(xiàn)盈利。
科技界長期警示AI快速發(fā)展需配套安全防護(hù)措施,以防止錯誤信息傳播和有害行為。FTC此次監(jiān)管行動表明,隨著技術(shù)演進(jìn),建立問責(zé)機(jī)制和保護(hù)用戶安全隱私已成為當(dāng)務(wù)之急。