近期，中央網(wǎng)信辦針對(duì)部分網(wǎng)絡(luò)賬號(hào)利用AI技術(shù)生成虛假信息且未標(biāo)注標(biāo)識(shí)、誤導(dǎo)公眾的行為展開專項(xiàng)整治行動(dòng)。截至目前，已依法處置違規(guī)賬號(hào)13421個(gè)，清理違法違規(guī)信息54.3萬余條，并通過官方渠道通報(bào)多起典型案例。此類行為不僅破壞網(wǎng)絡(luò)生態(tài)，更對(duì)公共秩序造成嚴(yán)重干擾。

據(jù)通報(bào)，部分賬號(hào)通過AI換臉技術(shù)假冒知名人物，克隆其聲音發(fā)布不實(shí)言論，以此吸引流量或牟取利益；另有賬號(hào)利用AI生成虛假災(zāi)害場景圖片、視頻，惡意編造事故信息，引發(fā)社會(huì)恐慌。網(wǎng)信部門強(qiáng)調(diào)，此類行為已觸碰法律紅線，將采取“發(fā)現(xiàn)即處置”原則，持續(xù)保持高壓打擊態(tài)勢，堅(jiān)決維護(hù)網(wǎng)絡(luò)空間清朗有序。

隨著人工智能技術(shù)快速發(fā)展，相關(guān)企業(yè)數(shù)量呈現(xiàn)爆發(fā)式增長。天眼查專業(yè)版數(shù)據(jù)顯示，截至目前，我國現(xiàn)存人工智能相關(guān)企業(yè)超500萬家。其中，2025年新增注冊(cè)企業(yè)達(dá)120.2萬余家，創(chuàng)近五年新高，企業(yè)注冊(cè)數(shù)量連續(xù)五年保持遞增趨勢。

從區(qū)域分布看，廣東省以77.2萬余家企業(yè)數(shù)量領(lǐng)跑全國，占比達(dá)15.45%；北京市、江蘇省、山東省、浙江省緊隨其后，企業(yè)數(shù)量分別超過40.1萬、38.5萬、32.8萬和30.6萬家。區(qū)域集中化特征明顯，頭部地區(qū)形成產(chǎn)業(yè)集聚效應(yīng)。