龔先生

近日，一條以某汽車品牌展臺為背景的不雅視頻，在互聯(lián)網(wǎng)瘋狂傳播，引發(fā)關(guān)注。經(jīng)公安機關(guān)調(diào)查，視頻實為不法分子李某利用AI工具偽造。

12月10日，中國籃球協(xié)會發(fā)布聲明稱，近期，網(wǎng)上針對中國女籃教練和運動員的不實信息與謠言，部分音視頻為AI技術(shù)偽造。此前，某地公安機關(guān)查獲某機構(gòu)利用AI批量生產(chǎn)假新聞，1天就能生成 7000篇內(nèi)容炸裂、驚悚的假新聞。

（圖源 新華社）

當(dāng)下，濫用AI的問題，在多個領(lǐng)域顯現(xiàn)。

偽造名人聲音形象帶貨、學(xué)術(shù)造假、社交媒體造假起號、造假式索賠、換臉換聲詐騙……AI造假案件頻發(fā)，為人工智能深度偽造的治理再次敲響警鐘。

三個趨勢，或?qū)⒓觿≡摲矫娴碾[憂。

一方面，技術(shù)迭代的腳步不會停下。隨著從事人工智能研發(fā)的公司越來越多，技術(shù)創(chuàng)新越來越密集，產(chǎn)品迭代升級越來越快，功能將越來越強大，使用的門檻也會大大降低。

另一方面，AI工具毫無懸念正成為新的“基礎(chǔ)設(shè)施”。隨著AI工具的普及，網(wǎng)民使用AI工具的能力會越來越強。如果說90后和00后是“網(wǎng)生代”，而20后、25后則將成為“智生代”“AI世代”，未來他們使用AI工具的能力將會“刻在基因里”。

此外，AI的應(yīng)用廣度和深度還將被大大拓展。今年10月份，有國際機構(gòu)研究發(fā)現(xiàn)，僅短短幾年，目前互聯(lián)網(wǎng)超一半的書面內(nèi)容是由AI生成的。

可以預(yù)見，未來AI將與經(jīng)濟社會各行各業(yè)各領(lǐng)域廣泛深度融合。

在此背景下，AI深度偽造，誤導(dǎo)網(wǎng)民、消耗社會信任，不僅侵害個人權(quán)益，更擾亂社會秩序，增加治理成本與難度，一些特定情形更會對公共安全和國家安全構(gòu)成威脅。不法分子利用深度偽造技術(shù)放大社會矛盾與對立、操縱輿論，境外敵對勢力利用AI對我進行認(rèn)知領(lǐng)域的滲透和認(rèn)知作戰(zhàn)等，其危害之大更難想象。

（圖源 新華社）

與“智”同行，我們當(dāng)然不能因噎廢食，但邊界必須明確。完善相關(guān)法規(guī)之外，更需有“技術(shù)治理技術(shù)”的硬核實力。這要求相關(guān)方面，必須做好技術(shù)治理工具箱的超前布置。

人工智能企業(yè)和平臺必須肩負起主體負責(zé)。我國《人工智能生成合成內(nèi)容標(biāo)識辦法》要求通過技術(shù)標(biāo)識提醒用戶辨別虛假信息，明確相關(guān)服務(wù)主體的標(biāo)識責(zé)任和義務(wù)，規(guī)范制作、傳播各個環(huán)節(jié)標(biāo)識行為。

客觀講，平臺企業(yè)有相關(guān)的技術(shù)和與用戶聯(lián)動共治的天然優(yōu)勢?！耙约夹g(shù)治理技術(shù)”，平臺層面理應(yīng)提高對深度偽造內(nèi)容的精準(zhǔn)檢測。

此外，AI鑒偽相關(guān)技術(shù)的投入和研發(fā)，值得鼓勵和期待。目前，一些科技公司已經(jīng)在從事相關(guān)技術(shù)的研發(fā)，從圖片到音視頻，為深度偽造內(nèi)容的治理，帶來了想象空間。

長期來看，全社會使用AI工具素養(yǎng)的提升，也必須被高度重視。

目前，包括北京、上海、廣州、深圳等多地在內(nèi)，開展不同層次和面向不同群體的AI課程，覆蓋了通識教育、專業(yè)技能、產(chǎn)業(yè)應(yīng)用和安全倫理等多個方向。例如，浙江杭州自2025年秋季學(xué)期起，開始在中小學(xué)開展人工智能通識教育，覆蓋小學(xué)至高中全學(xué)段，每學(xué)年不少于10課時。

在AI等高新技術(shù)的加持下，社會正以遠超我們預(yù)期的方式演進和重塑。在享受AI技術(shù)帶來的“賽博感”的同時，如何應(yīng)對這一顛覆性技術(shù)的風(fēng)險與挑戰(zhàn)，將是我們社會面臨的一項長期任務(wù)。