近日，多家企業(yè)因數(shù)據(jù)泄露、違規(guī)收集個人信息、提供深度合成服務(wù)未進行安全評估、處理敏感個人信息未做個保評估等問題被網(wǎng)信部門、公安機關(guān)處罰。其中便包括了運營提供深度合成類服務(wù)App的企業(yè)、對外提供人工智能模型訓(xùn)練基礎(chǔ)數(shù)據(jù)（算料）的AI公司。

據(jù)“網(wǎng)信中國”微信公眾號消息，近段時間以來，各地網(wǎng)信部門依法查處一批涉網(wǎng)頁篡改、數(shù)據(jù)泄露、違法違規(guī)處理個人信息、新技術(shù)新應(yīng)用未經(jīng)評估上線等違法違規(guī)案件。國家網(wǎng)信辦發(fā)布了部分典型案例，包括廣東某科技股份有限公司網(wǎng)頁篡改案、新疆某互聯(lián)網(wǎng)科技有限公司網(wǎng)頁篡改案、山東某醫(yī)學(xué)檢驗有限公司數(shù)據(jù)泄露案、浙江某科技股份有限公司數(shù)據(jù)被竊取案、重慶某科技公司數(shù)據(jù)被竊取案、廣東某保險代理有限公司數(shù)據(jù)被竊取案、湖南某科技股份有限公司數(shù)據(jù)存在泄露安全風(fēng)險案、北京某科技有限公司運營的App超范圍收集個人信息案、上海某科技有限公司違法違規(guī)收集人臉信息案、浙江某科技有限責(zé)任公司運營的App提供深度合成服務(wù)未按規(guī)定進行安全評估案等。

其中，浙江某科技有限責(zé)任公司運營的App作為一款深度合成類服務(wù)產(chǎn)品，提供視頻換臉、圖片換臉、照片舞動配音等圖片處理功能，用戶可對上傳圖片、視頻中的人物進行換臉，但未按規(guī)定落實安全評估要求，相關(guān)深度合成內(nèi)容也未作顯著標(biāo)識，存在較大安全風(fēng)險，違反了《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《具有輿論屬性或社會動員能力的互聯(lián)網(wǎng)信息服務(wù)安全評估規(guī)定》等規(guī)定，網(wǎng)信部門依法責(zé)令移動應(yīng)用程序分發(fā)平臺依規(guī)依約對該App予以下架處置。

此外，據(jù)“國家網(wǎng)絡(luò)安全通報中心”發(fā)布的消息，某AI公司因處理敏感個人信息未做個保評估被公安機關(guān)處罰。據(jù)悉，公安網(wǎng)安部門在“護網(wǎng)—2025”專項工作中發(fā)現(xiàn)，某主營業(yè)務(wù)為對外提供人工智能模型訓(xùn)練基礎(chǔ)數(shù)據(jù)（算料）的科技有限公司，在處理人臉等生物識別類敏感個人信息前，未按《個人信息保護法》有關(guān)規(guī)定進行個人信息保護影響評估。屬地公安機關(guān)依據(jù)《個人信息保護法》規(guī)定，對該公司依法予以行政處罰，并責(zé)令整改。

對此，有關(guān)部門提醒，合法合規(guī)的人工智能訓(xùn)練數(shù)據(jù)是高水平大模型研發(fā)的基石。提供生成式人工智能服務(wù)的網(wǎng)絡(luò)數(shù)據(jù)處理者應(yīng)當(dāng)加強對訓(xùn)練數(shù)據(jù)和訓(xùn)練數(shù)據(jù)處理活動的安全管理，采取有效措施防范和處置網(wǎng)絡(luò)和數(shù)據(jù)安全風(fēng)險。

采寫：南都研究員 羅韻>