文 | 楊召奎

近日，寧夏固原彭陽縣發(fā)生的一起AI（人工智能）換臉換聲詐騙案件引發(fā)社會關(guān)注。詐騙分子通過AI換臉和擬聲技術(shù)，佯裝成受害者親戚對其實施詐騙，導致受害者被騙1.5萬元。類似AI換臉詐騙案件已經(jīng)發(fā)生多起。

當前，人工智能技術(shù)變革加快，在賦能各行各業(yè)的同時也帶來了前所未有的安全挑戰(zhàn)。網(wǎng)絡(luò)攻擊、數(shù)據(jù)泄露等安全風險日益凸顯，過度采集、歧視性算法、濫用深度偽造等問題可能給社會經(jīng)濟的運行帶來風險。

今年正值網(wǎng)絡(luò)強國戰(zhàn)略提出10周年、中國接入國際互聯(lián)網(wǎng)30載。站在新的時代起點、迎接新的風險挑戰(zhàn)，亟須新的應(yīng)對策略。5月18日，在以“智繪安全 乘數(shù)而上”為主題的2024第十二屆西湖論劍·數(shù)字安全大會上，與會專家深入探討了AI技術(shù)變革帶來的安全挑戰(zhàn)并尋求有效的應(yīng)對策略。

中國工程院院士鄔江興指出，人類社會正在進入以數(shù)據(jù)為關(guān)鍵要素的數(shù)字經(jīng)濟時代，傳統(tǒng)網(wǎng)絡(luò)安全治理的局限性日益凸顯，急需數(shù)字生態(tài)系統(tǒng)底層驅(qū)動范式轉(zhuǎn)型，即建立一種可防御且富有彈性和韌性的數(shù)字生態(tài)系統(tǒng)，使其更容易形成內(nèi)在防御能力，能讓攻擊方付出比防御方更高的代價，實現(xiàn)防御優(yōu)勢的轉(zhuǎn)變，從而挫敗數(shù)字生態(tài)系統(tǒng)面臨的種種威脅。

中國工程院院士吳世忠則指出，在AI時代，安全問題不僅涵蓋了傳統(tǒng)的信息安全，也包括系統(tǒng)運行的穩(wěn)定性和可靠性，還包括倫理安全，即技術(shù)應(yīng)用必須符合道德倫理標準。這三者交織融合，對個人隱私保護、社會穩(wěn)定、國家發(fā)展以及國際合作等方面都提出了新的挑戰(zhàn)和要求。因此，構(gòu)建一個安全、堅韌、可信的人工智能發(fā)展生態(tài)至關(guān)重要，這就要求必須在推動技術(shù)發(fā)展的同時，充分考慮到安全保障，實現(xiàn)發(fā)展與安全統(tǒng)籌兼顧。

近年來，從監(jiān)管層、學界到產(chǎn)業(yè)界，都非常關(guān)注AI帶來的潛在風險。2023年7月，國家網(wǎng)信辦等七部門發(fā)布《生成式人工智能服務(wù)管理暫行辦法》，堅持發(fā)展和安全并重，在鼓勵生成式人工智能創(chuàng)新發(fā)展的同時，對生成式人工智能服務(wù)實行包容審慎和分類分級監(jiān)管。AI和大模型會帶來網(wǎng)絡(luò)安全新的挑戰(zhàn)，但利用好也可以實現(xiàn)更智能的安全防控。

在產(chǎn)業(yè)界方面，西湖論劍·數(shù)字安全大會發(fā)布了“共建網(wǎng)絡(luò)強國：AI時代數(shù)字安全共識”，其中就包括以AI對AI、以AI管AI，積極應(yīng)用AI等數(shù)字技術(shù)，助力數(shù)字安全保障能力持續(xù)提升。目前，一些企業(yè)已發(fā)布融合AI技術(shù)的防火墻、入侵防御、數(shù)據(jù)防泄露等創(chuàng)新型產(chǎn)品。還有企業(yè)發(fā)布了安全大模型，通過大量安全知識和數(shù)據(jù)的訓練，將通用大模型訓練成“安全專家”。

筑牢AI時代的安全底線，人才隊伍建設(shè)是關(guān)鍵。教育部最新公布的數(shù)據(jù)顯示，到2027年我國網(wǎng)絡(luò)安全人員缺口將達327萬。安恒信息首席人才官、高級副總裁苗春雨表示，培養(yǎng)一個復合型網(wǎng)絡(luò)安全人才非常難，需要滿足強實戰(zhàn)、高技能、重協(xié)同、跨領(lǐng)域等條件。

目前，工信部教育與考試中心、安恒信息已達成戰(zhàn)略合作協(xié)議，聯(lián)合打造“賽訓研培一體化”合作模式，共同推進數(shù)字安全領(lǐng)域的人才選拔、能力提升、教學研究與人才培養(yǎng)等相關(guān)工作。期待更多政府部門、機構(gòu)、高校和企業(yè)參與進來，構(gòu)建多層次、跨領(lǐng)域的數(shù)字安全人才培養(yǎng)體系和產(chǎn)教融合共同體，盡快打破數(shù)字安全領(lǐng)域人才短缺的瓶頸。