近日，多家企業(yè)因數(shù)據(jù)泄露、違規(guī)收集個(gè)人信息、提供深度合成服務(wù)未進(jìn)行安全評(píng)估、處理敏感個(gè)人信息未做個(gè)保評(píng)估等問題被網(wǎng)信部門、公安機(jī)關(guān)處罰。其中便包括了運(yùn)營提供深度合成類服務(wù)App的企業(yè)、對(duì)外提供人工智能模型訓(xùn)練基礎(chǔ)數(shù)據(jù)（算料）的AI公司。

據(jù)“網(wǎng)信中國”微信公眾號(hào)消息，近段時(shí)間以來，各地網(wǎng)信部門依法查處一批涉網(wǎng)頁篡改、數(shù)據(jù)泄露、違法違規(guī)處理個(gè)人信息、新技術(shù)新應(yīng)用未經(jīng)評(píng)估上線等違法違規(guī)案件。國家網(wǎng)信辦發(fā)布了部分典型案例，包括廣東某科技股份有限公司網(wǎng)頁篡改案、新疆某互聯(lián)網(wǎng)科技有限公司網(wǎng)頁篡改案、山東某醫(yī)學(xué)檢驗(yàn)有限公司數(shù)據(jù)泄露案、浙江某科技股份有限公司數(shù)據(jù)被竊取案、重慶某科技公司數(shù)據(jù)被竊取案、廣東某保險(xiǎn)代理有限公司數(shù)據(jù)被竊取案、湖南某科技股份有限公司數(shù)據(jù)存在泄露安全風(fēng)險(xiǎn)案、北京某科技有限公司運(yùn)營的App超范圍收集個(gè)人信息案、上海某科技有限公司違法違規(guī)收集人臉信息案、浙江某科技有限責(zé)任公司運(yùn)營的App提供深度合成服務(wù)未按規(guī)定進(jìn)行安全評(píng)估案等。

其中，浙江某科技有限責(zé)任公司運(yùn)營的App作為一款深度合成類服務(wù)產(chǎn)品，提供視頻換臉、圖片換臉、照片舞動(dòng)配音等圖片處理功能，用戶可對(duì)上傳圖片、視頻中的人物進(jìn)行換臉，但未按規(guī)定落實(shí)安全評(píng)估要求，相關(guān)深度合成內(nèi)容也未作顯著標(biāo)識(shí)，存在較大安全風(fēng)險(xiǎn)，違反了《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《具有輿論屬性或社會(huì)動(dòng)員能力的互聯(lián)網(wǎng)信息服務(wù)安全評(píng)估規(guī)定》等規(guī)定，網(wǎng)信部門依法責(zé)令移動(dòng)應(yīng)用程序分發(fā)平臺(tái)依規(guī)依約對(duì)該App予以下架處置。

此外，據(jù)“國家網(wǎng)絡(luò)安全通報(bào)中心”發(fā)布的消息，某AI公司因處理敏感個(gè)人信息未做個(gè)保評(píng)估被公安機(jī)關(guān)處罰。據(jù)悉，公安網(wǎng)安部門在“護(hù)網(wǎng)—2025”專項(xiàng)工作中發(fā)現(xiàn)，某主營業(yè)務(wù)為對(duì)外提供人工智能模型訓(xùn)練基礎(chǔ)數(shù)據(jù)（算料）的科技有限公司，在處理人臉等生物識(shí)別類敏感個(gè)人信息前，未按《個(gè)人信息保護(hù)法》有關(guān)規(guī)定進(jìn)行個(gè)人信息保護(hù)影響評(píng)估。屬地公安機(jī)關(guān)依據(jù)《個(gè)人信息保護(hù)法》規(guī)定，對(duì)該公司依法予以行政處罰，并責(zé)令整改。

對(duì)此，有關(guān)部門提醒，合法合規(guī)的人工智能訓(xùn)練數(shù)據(jù)是高水平大模型研發(fā)的基石。提供生成式人工智能服務(wù)的網(wǎng)絡(luò)數(shù)據(jù)處理者應(yīng)當(dāng)加強(qiáng)對(duì)訓(xùn)練數(shù)據(jù)和訓(xùn)練數(shù)據(jù)處理活動(dòng)的安全管理，采取有效措施防范和處置網(wǎng)絡(luò)和數(shù)據(jù)安全風(fēng)險(xiǎn)。

采寫：南都研究員 羅韻>