近期，網(wǎng)絡(luò)空間中AI生成虛假信息的問題引發(fā)廣泛關(guān)注。部分賬號利用技術(shù)手段制造不實內(nèi)容，通過AI換臉、聲音克隆等方式假冒公眾人物發(fā)布言論，或編造災(zāi)害事故等虛假圖片視頻，以此吸引流量甚至謀取利益。此類行為嚴重擾亂公共秩序，破壞網(wǎng)絡(luò)生態(tài)健康。

針對這一亂象，中央網(wǎng)信辦已展開專項整治行動。據(jù)通報，近期依法處置違規(guī)賬號13421個，清理違法違規(guī)信息54.3萬余條。監(jiān)管部門明確表示，將持續(xù)強化對未標注AI生成標識的虛假內(nèi)容的打擊力度，形成常態(tài)化高壓監(jiān)管態(tài)勢，堅決維護網(wǎng)絡(luò)空間的清朗環(huán)境。

伴隨技術(shù)普及，人工智能產(chǎn)業(yè)呈現(xiàn)爆發(fā)式增長。據(jù)專業(yè)機構(gòu)統(tǒng)計，截至目前全國現(xiàn)存人工智能相關(guān)企業(yè)超500萬家。僅2025年新增注冊企業(yè)就達120.2萬余家，近五年企業(yè)注冊數(shù)量持續(xù)攀升，今年創(chuàng)下歷史新高。從地域分布看，廣東省以77.2萬余家企業(yè)領(lǐng)跑全國，占比達15.45%，北京、江蘇、山東、浙江四省市緊隨其后，形成產(chǎn)業(yè)集聚效應(yīng)。

業(yè)內(nèi)人士指出，AI技術(shù)發(fā)展需與規(guī)范管理同步推進。一方面要鼓勵技術(shù)創(chuàng)新應(yīng)用，另一方面必須完善標識制度，強化平臺審核責(zé)任。當(dāng)前監(jiān)管部門正通過技術(shù)手段與人工巡查相結(jié)合的方式，構(gòu)建全鏈條治理體系，從源頭遏制虛假信息傳播。