IT之家 9 月 6 日消息,據(jù)外媒 TechCrunch 今日報道,OpenAI 正在重組“模型行為(Model Behavior)”團隊。這個團隊規(guī)模不大卻影響深遠(yuǎn),負(fù)責(zé)決定公司 AI 模型如何與用戶互動。
OpenAI 首席研究官 Mark Chen 表示,約 14 名研究員組成的模型行為團隊將并入 Post Training 團隊。后者負(fù)責(zé)在模型完成預(yù)訓(xùn)練之后持續(xù)改進(jìn),是公司更大的研究部門。
重組后,模型行為團隊將直接向 Post Training 負(fù)責(zé)人 Max Schwarzer 匯報。OpenAI 發(fā)言人已向 TechCrunch 確認(rèn)了這一安排。
該團隊的創(chuàng)始人 Joanne Jang 也將轉(zhuǎn)向新的研究方向。她在接受采訪時表示,自己正在組建一個名為 OAI Labs 的新團隊,致力于“發(fā)明和測試人與 AI 協(xié)作的新界面”。
IT之家從報道中獲悉,模型行為團隊是 OpenAI 的重要力量,主要任務(wù)是塑造模型的“性格”,減少過度迎合用戶的現(xiàn)象,并解決政治偏見問題,還幫助公司明確對 AI 意識的態(tài)度。
Mark Chen 在備忘錄中指出,現(xiàn)在應(yīng)當(dāng)把模型行為團隊的研究與核心模型開發(fā)結(jié)合起來。這也意味著 OpenAI 已將 AI 的“性格”視為技術(shù)演進(jìn)的核心要素。
最近幾個月,OpenAI 的模型表現(xiàn)備受爭議。部分用戶強烈不滿 GPT-5 的性格調(diào)整,雖然公司稱其減少了阿諛傾向,但不少人覺得它過于冷淡。
最終,OpenAI 重新開放了對 GPT-4o 等舊模型的訪問,并更新 GPT-5,使其回答在保持獨立性的同時更溫和、友好。
如何讓聊天機器人既親切易交談,又不過分迎合用戶,是所有開發(fā)者都面臨的挑戰(zhàn)。
今年 8 月,一名 16 歲少年的父母起訴 OpenAI,指控 ChatGPT 在兒子自殺事件中負(fù)有責(zé)任。根據(jù)法庭文件,這名叫 Adam Raine 的少年在去世前數(shù)月,把部分自殺念頭和計劃傾訴給 GPT-4o,訴訟稱該模型未能及時勸阻。
自 GPT-4 起,模型行為團隊幾乎參與了 OpenAI 所有主要模型的研發(fā),包括 GPT-4o、GPT-4.5 和 GPT-5。