日前，OpenAI首席執(zhí)行官奧爾特曼表示自ChatGPT上線后就未曾睡過安穩(wěn)覺。他談到，自己肩負(fù)監(jiān)管一項(xiàng)“每天有數(shù)億人使用的技術(shù)”的重?fù)?dān)。他擔(dān)憂的并非“終結(jié)者”式的災(zāi)難場(chǎng)景，而是團(tuán)隊(duì)每天做出的細(xì)微選擇，如什么時(shí)候拒絕回答、如何組織答案等。這些選擇被全球用戶重復(fù)數(shù)十億次，會(huì)以他無法完全跟蹤的方式改變?nèi)藗兊乃季S和行為。

奧爾特曼特別提到自殺問題。全球每周約15000人自殺，如果其中10%是ChatGPT用戶，那可能有1500人在與系統(tǒng)對(duì)話后仍然自殺。不久前，OpenAI被一對(duì)父母起訴，指控ChatGPT誘導(dǎo)他們16歲的兒子自殺。奧爾特曼稱這是“一場(chǎng)悲劇”，并透露平臺(tái)正在研究方案，若未成年人談及自殺又無法聯(lián)系家長(zhǎng)，系統(tǒng)會(huì)報(bào)警，但他也表示這并非最終決定，還需權(quán)衡用戶隱私。

他認(rèn)為成年人應(yīng)當(dāng)享有探索自由，但也必須劃定紅線，比如讓ChatGPT幫助制造生物武器就不符合社會(huì)利益。對(duì)于道德標(biāo)準(zhǔn)，他稱模型基礎(chǔ)反映了“人類集體的善與惡”，隨后OpenAI會(huì)疊加“模型規(guī)范”，參考哲學(xué)家和倫理學(xué)家的意見，但最終由他和董事會(huì)拍板。

奧爾特曼還表示，比起AI對(duì)就業(yè)或地緣政治的沖擊，更讓他不安的是文化層面的細(xì)微變化。數(shù)百萬人每天與同一系統(tǒng)互動(dòng)，連ChatGPT的語氣、甚至過度使用破折號(hào)的習(xí)慣，都已經(jīng)滲入人類寫作風(fēng)格。