【編者按】3月27日，以“人工智能+安全：數(shù)智驅動轉型 安全賦能未來”為主題的2025BCS政企數(shù)字化轉型及數(shù)據(jù)安全專題研討會在湖北武漢舉行。會上，中國互聯(lián)網(wǎng)協(xié)會專家咨詢委員會常務副主任、工業(yè)和信息化部原總工程師趙志國圍繞“人工智能+”時代數(shù)智轉型與安全保障做了主題演講。趙志國提出，要堅持“四個面向”的戰(zhàn)略定位，重點處理好內生安全和應用安全、國際安全和國內安全、有為政府與有效市場“三對關系”。針對當前挑戰(zhàn)，趙志國建議：夯實AI安全技術底座，完善數(shù)據(jù)安全管理制度，加快安全產業(yè)創(chuàng)新發(fā)展，積極參與國際治理。
以下為演講全文。
統(tǒng)籌推進“人工智能+”時代的數(shù)智轉型與安全治理
趙志國
當今世界正處于由智能技術驅動的歷史性變革浪潮中，人工智能作為引領新一輪科技革命和產業(yè)變革的戰(zhàn)略性力量，正在深刻重構全球創(chuàng)新版圖與發(fā)展范式。黨中央、國務院高度重視人工智能發(fā)展，強調加快關鍵核心技術攻關，開展“人工智能+”行動，促進人工智能與實體經濟深度融合，推動人工智能健康有序發(fā)展。深入貫徹落實黨中央、國務院關于推動人工智能發(fā)展的決策部署，必須深刻認識人工智能發(fā)展和安全一體兩翼、辯證統(tǒng)一的關系，統(tǒng)籌兼顧、同步推進，以技術創(chuàng)新驅動數(shù)智化轉型，以安全保障筑牢未來發(fā)展根基。
聚焦“四個面向”，明確人工智能發(fā)展的戰(zhàn)略定位
2020年9月11日，習近平總書記主持召開科學家座談會，提出新時代我國科技事業(yè)發(fā)展要堅持“四個面向”的戰(zhàn)略導向，面向世界科技前沿、面向經濟主戰(zhàn)場、面向國家重大需求、面向人民生命健康，不斷向科學技術廣度和深度進軍，為我國科技事業(yè)發(fā)展擘畫了清晰的路徑。人工智能是新興科技重大革新的成果，是引領這一輪科技革命和產業(yè)變革的戰(zhàn)略性技術，具有溢出帶動性很強的“頭雁”效應。推動人工智能發(fā)展要錨定“四個面向”的戰(zhàn)略定位，搶抓歷史性機遇，構筑我國競爭優(yōu)勢。
面向世界科技前沿，打造人工智能新高地。從科技發(fā)展規(guī)律看，沒有面向世界科技前沿的前瞻性基礎研究、引領性原創(chuàng)成果的重大突破，就很難產生開創(chuàng)性、顛覆性成果。當前，人工智能被視為科技創(chuàng)新的下一個“超級風口”，受到世界各國的高度重視。誰占據(jù)了人工智能的研發(fā)優(yōu)勢，誰就能引導經濟和其他領域的戰(zhàn)略優(yōu)勢。例如，ChatGPT全面加速了大模型的技術創(chuàng)新和產業(yè)應用步伐，進一步鞏固了美國在相關領域全球競爭的領先地位；DeepSeek的開源策略吸引大量開發(fā)者參與優(yōu)化，不僅促進了模型擴散和廣泛應用，更通過社區(qū)貢獻強化中國在AI倫理等領域的規(guī)則制定權?？傮w來看，我國人工智能發(fā)展成績斐然，智能芯片、通用大模型、工業(yè)機器人等創(chuàng)新成果不斷涌現(xiàn)，特別是在推理、數(shù)學等專項能力上，國內模型的追趕速度更為迅猛。但同時也要清醒認識到，我國基礎模型技術仍處于跟隨狀態(tài)，對于原創(chuàng)技術、顛覆性路線的布局比較薄弱。我們必須錨定全球人工智能技術突破關鍵期，多維發(fā)力搶占制高點，抓住未來3-5年，讓大模型算法、智能芯片研發(fā)、人機協(xié)同生態(tài)構建等核心領域實現(xiàn)從“跟跑”到“領跑”的跨越，推動我國實現(xiàn)從“應用創(chuàng)新高地”到“基礎創(chuàng)新策源地”的躍升，為新一輪科技革命貢獻“東方智慧”。
面向經濟主戰(zhàn)場，激活產業(yè)升級新引擎。我國經濟已由高速增長階段轉向高質量發(fā)展階段，正處于轉變發(fā)展方式、優(yōu)化經濟結構、轉換增長動力的攻關期，迫切需要新一代人工智能等重大創(chuàng)新添薪續(xù)力。人工智能具備典型通用技術特征，是培育和發(fā)展新質生產力的重要引擎。從數(shù)字產業(yè)化來看，人工智能發(fā)展有助于培育數(shù)字產業(yè)新發(fā)展勢頭。工業(yè)和信息化部有關數(shù)據(jù)顯示，我國人工智能核心產業(yè)鏈上企業(yè)超4700家，覆蓋從基礎層、框架層、模型層到應用層的完整產業(yè)體系；專精特新“小巨人”企業(yè)中，屬于人工智能產業(yè)領域的數(shù)量占比約為8%。從產業(yè)數(shù)字化來看，大模型產業(yè)為數(shù)實融合提供新動能。尤其在新型工業(yè)化領域，人工智能、5G與工業(yè)互聯(lián)網(wǎng)融合，全方位、深層次賦能“智改數(shù)轉網(wǎng)聯(lián)”，已培育421家國家智能制造示范工廠，“5G+工業(yè)互聯(lián)網(wǎng)”項目數(shù)超過1.7萬個。從數(shù)據(jù)價值化來看，人工智能與數(shù)據(jù)緊密相連、相互支撐，大模型通過挖掘與分析海量數(shù)據(jù)中更深層次的模式和關聯(lián)，激活“沉睡數(shù)據(jù)”的經濟價值。但同時也要看到，人工智能賦能經濟創(chuàng)新還存在一些堵點難點，比如與各行業(yè)融合仍處于早期階段，應用生態(tài)較為單一，供需對接存在卡點等，需要進一步加強創(chuàng)新鏈和產業(yè)鏈對接，以科技創(chuàng)新引領產業(yè)創(chuàng)新，促進新舊動能平穩(wěn)接續(xù)轉換，加快發(fā)展新質生產力。
面向國家重大需求，筑牢安全發(fā)展新屏障。科技興則民族興，科技強則國家強。人工智能作為第四次工業(yè)革命的核心驅動力，其影響不僅限于經濟效率的提升，更通過技術路徑的分化、安全邊界的重構、國際規(guī)則的爭奪，重塑全球秩序。2022年底，隨著OpenAI引爆AIGC浪潮，美國針對中國高科技的遏制更加聚集在AI領域，尤其是AI芯片的供給上。2025年1月，美國國防部、國會等部門等相繼禁止在政府官方設備上使用DeepSeek，美國政府還調查DeepSeek是否通過第三國繞過美國的出口限制，采購對華禁售的英偉達GPU。此外，人工智能技術快速突破，也對網(wǎng)絡空間安全帶來前所未有的挑戰(zhàn)，大模型加持下網(wǎng)絡攻擊手段不斷升級，數(shù)據(jù)泄露與投毒、大模型“幻覺”等新型脆弱性凸顯，AI嵌入更多關鍵核心領域威脅基礎設施底層安全，迫切需要我們加快芯片、算法等“卡脖子”突破，努力實現(xiàn)關鍵核心技術自主可控，構建適配我國經濟社會發(fā)展的大模型安全基座，確保人工智能健康有序發(fā)展。
面向人民生命健康，構建美好生活新圖景。科技的本質是以人為本，提升人的生活品質，讓人的生活更美好。人工智能的發(fā)展要堅持人民至上、生命至上，不斷提升人民生活品質，滿足人民日益增長的美好生活需要。堅持通過發(fā)展人工智能提高人民的幸福感，加強人工智能同醫(yī)療診斷、智能養(yǎng)老設備等民生需要結合，從保障和改善民生、為人民創(chuàng)造美好生活的需要出發(fā)，推動人工智能在人們日常工作、學習、生活中的深度運用，創(chuàng)造更加智能的工作方式和生活方式。堅持通過發(fā)展人工智能提高人民的獲得感，利用智能化手段促進產業(yè)技術變革和產業(yè)模式轉變，緩解不同地方經濟發(fā)展不平衡不充分的問題；通過人工智能技術協(xié)助消除獲取學習機會和資源的障礙，彌合數(shù)字鴻溝。堅持通過發(fā)展人工智能提高人民的安全感，將人工智能廣泛應用于社會治理和公共服務，提升對公共安全事件和自然災害的應急響應能力；利用人工智能賦能反詐、騷擾電話治理等能力提升，保障人民群眾生命財產安全。
堅持辯證思維，統(tǒng)籌人工智能安全有序發(fā)展的三對關系
人工智能的發(fā)展和應用是把“雙刃劍”，技術躍遷釋放價值紅利的同時也帶來多方面風險挑戰(zhàn)，并且，隨著技術持續(xù)突破、產品應用爆發(fā)式增長，安全風險向多主體多環(huán)節(jié)蔓延，治理復雜性不斷提升，需要統(tǒng)籌處理好三對關系，推動人工智能安全有序發(fā)展。
一、 統(tǒng)籌內生安全和應用安全，推動技術硬實力與制度軟約束協(xié)同治理
回顧人類科技發(fā)展史，我們可以清晰地認識到，一種技術從原始創(chuàng)新到產業(yè)化應用必然伴生著安全風險問題。人工智能作為一種典型的通用目的技術，既有其自身技術脆弱性導致的內生安全問題，也有其使用場景復雜性帶來的應用安全問題，兩者相互聯(lián)系、彼此作用。
內生安全是風險的源頭，治理依賴自身技術突破。現(xiàn)階段人工智能技術創(chuàng)新仍然是以數(shù)據(jù)、算法、算力三要素的共同驅動，數(shù)據(jù)的依賴性、算法的復雜性、算力的集中性等內在屬性，導致了數(shù)據(jù)投毒、算法黑箱、模型幻覺等特有安全風險。比如，很多大模型在數(shù)字比大小時存在幻覺，認為3.9小于3.11。智能網(wǎng)聯(lián)汽車使用的人工智能算法易遭受對抗樣本攻擊，可能導致自動駕駛誤判或失控。這些內生安全問題需要突破算法可解釋性、系統(tǒng)自主可控等關鍵技術，才能實現(xiàn)相關風險消解。
應用場景是風險的場域，治理需要外部制度設計。人工智能應用安全往往是人工智能技術在應用于經濟社會各領域的過程中，因不當使用甚至惡意利用而導致內在風險問題放大、泛化。例如，今年兩會熱議的深度合成技術，雖然技術設計本身是中立的，但是被惡意應用于生成的高仿真音視頻、仿冒網(wǎng)站及智能詐騙程序，危害廣大人民群眾切身利益。根據(jù)奇安信的報告，僅2023年基于AI的深度偽造欺詐激增了30倍，基于AI的釣魚郵件增長了10倍。人工智能應用安全風險無法單純通過技術手段化解，更有賴于治理制度設計，進一步劃定應用邊界、明確權責關系、構建制衡機制。2025年3月，網(wǎng)信、工信、公安和廣電等部門聯(lián)合出臺的《人工智能生成合成內容標識辦法》，通過賦予相關服務提供者內容標識義務，實現(xiàn)信息內容的全流程追蹤，既保障了技術應用活力，又防范虛假信息傳播風險。
兼顧內生安全突破與應用安全規(guī)范，實現(xiàn)動態(tài)均衡。技術硬實力是內生安全治理的“手術刀”，可以通過技術突破直接修復系統(tǒng)缺陷，從根源上壓縮風險發(fā)生概率，但無法解決價值觀沖突、社會公平分配等非技術性風險。制度軟約束是應用安全治理的“防護網(wǎng)”，可以通過規(guī)則設計約束技術應用邊界，阻斷風險傳導鏈條，但依賴事后追責難以應對技術快速迭代。只有政府、企業(yè)與社會形成合力，推動技術硬實力與制度軟約束協(xié)同治理，才能實現(xiàn)技術進步與風險防控的“動態(tài)均衡態(tài)”。
二、 統(tǒng)籌國際安全和國內安全，推動開放合作與科技自立自強協(xié)同共進
安全是開放的而不是封閉的，人工智能安全發(fā)展既是國內治理課題，更是國際戰(zhàn)略博弈焦點。統(tǒng)籌國際和國內，立足開放環(huán)境，推動高水平科技自立自強，支撐構建人工智能領域穩(wěn)固、強大的國際話語權，方可打造國際國內相互促進的安全發(fā)展新格局。
加強開放合作，在融入全球中筑牢安全根基。開放合作是提升人工智能技術創(chuàng)新力和國際話語權的必由之路。融入全球創(chuàng)新網(wǎng)絡，全方位、多層次吸引全球人才、技術、資金等創(chuàng)新資源，對突破技術封鎖有著不可替代的作用。面對國際AI治理“碎片化”態(tài)勢，我國積極支持聯(lián)合國框架下的國際人工智能治理，提高發(fā)展中國家參與度，在全球人工智能安全有序發(fā)展中發(fā)出中國聲音。
堅持自主創(chuàng)新，強化安全發(fā)展內在底座。自主創(chuàng)新是安全發(fā)展的根本保障，聚焦核心算法、芯片架構等關鍵領域攻堅突破，是防范技術斷供、數(shù)據(jù)主權風險的必然選擇。例如，在核心算法方面，面對國外大模型的迅速迭代，國內科技企業(yè)和研究機構抓緊自主研發(fā)，通義千問等國產大模型的快速發(fā)展增強了我國在自然語言處理、計算機視覺等領域的自主創(chuàng)新能力，提高我國人工智能發(fā)展的自主可控性。
以國內安全促國際合作，以開放合作促國內發(fā)展。人工智能安全發(fā)展需統(tǒng)籌開放合作與自主創(chuàng)新。一方面，以開放合作推動自主創(chuàng)新，在深度參與國際技術競合與治理規(guī)則制定中，構建技術發(fā)展與治理的“中國方案”，實現(xiàn)從跟隨者向引領者的躍升。另一方面，以自主創(chuàng)新支撐開放合作深化，聚焦我國數(shù)字基礎設施、垂直領域技術應用等方向，構筑“非對稱優(yōu)勢”，以技術產業(yè)實力贏得國際話語權。
三、 統(tǒng)籌有為政府與有效市場，推動創(chuàng)新動能和安全能力同步提升
當今世界，國際科技競爭正日益演化為創(chuàng)新體系競爭，哪種創(chuàng)新體系能夠從根本上解決創(chuàng)新資源和力量分散、重復、低效的問題，就更能適應現(xiàn)代科技攻關需要。政府和市場是推動人工智能安全發(fā)展的“兩只手”，堅持有為政府和有效市場雙輪驅動，統(tǒng)籌創(chuàng)新資源集中攻堅，才能搶占科技競爭制高點。
發(fā)揮有為政府作用，強化戰(zhàn)略制度引領。人工智能發(fā)展涉及全局性、基礎性、前沿性技術變革，風險的復雜性、外溢性突出，需要政府承擔起統(tǒng)籌規(guī)劃、規(guī)則制定、風險防控的重要責任。我國政府一直高度重視人工智能發(fā)展的引導和規(guī)劃。2017年，國務院印發(fā)《新一代人工智能發(fā)展規(guī)劃》提出加強前瞻預防與約束引導，最大限度降低風險，確保人工智能安全、可靠、可控發(fā)展。2023年7月，國家網(wǎng)信辦聯(lián)合多部門印發(fā)《生成式人工智能服務管理暫行辦法》，對大模型風險治理提出要求。工信部在數(shù)據(jù)安全、人工智能產業(yè)綜合標準化體系建設等方面也出臺了多項政策規(guī)范，引導人工智能安全規(guī)范發(fā)展。
激發(fā)有效市場活力，推動技術創(chuàng)新和產業(yè)升級。市場是人工智能應用的主陣地，企業(yè)是技術突破的核心主體。市場需求為企業(yè)大膽探索AI應用場景提供動力，推動人工智能賦能各行各業(yè)轉型升級，助力科技創(chuàng)新和產業(yè)創(chuàng)新融合發(fā)展。例如，工業(yè)互聯(lián)網(wǎng)與AI大模型深度融合，引發(fā)從規(guī)劃設計到研發(fā)生產的產業(yè)全鏈條變革。我國AI企業(yè)已經成為技術創(chuàng)新的主力軍，以DeepSeek為代表的國內AI企業(yè)，憑借技術突破和商業(yè)模式創(chuàng)新，提升了我國在全球AI競爭中的地位。
發(fā)揮我國新型舉國體制優(yōu)勢，推動有為政府和有效市場結合。新型舉國體制之“新”體現(xiàn)在政府和市場的有機結合，既繼承“集中力量辦大事”的傳統(tǒng)優(yōu)勢，又注重發(fā)揮市場配置技術資源的決定性作用。進入新時代，新型舉國體制推動我國在載人航天、超級計算機、量子信息等領域取得重大創(chuàng)新成果。人工智能安全發(fā)展是當前國家重大科技任務之一，部分關鍵核心技術仍受制于人，處在不進則退的關鍵階段。要用好新型舉國體制這一法寶，面向人工智能安全發(fā)展的重大需求，深化政府和市場協(xié)同發(fā)力，凝聚產學研用各方資源力量，共同攻克“卡脖子”的技術難題，走出一條符合國情、引領趨勢的人工智能發(fā)展道路。
凝聚多方合力，把握人工智能安全發(fā)展的重點方向
習近平總書記強調，要做好風險防范，不斷提升人工智能技術的安全性、可靠性、可控性、公平性。搶抓人工智能發(fā)展機遇，不僅要讓技術“跑得更快”，更要讓安全之盾“筑得更牢”，推動實現(xiàn)底座安全、數(shù)據(jù)安全、產業(yè)鏈供應鏈安全，積極貢獻人工智能安全發(fā)展中國方案。
夯實人工智能安全底座，筑牢安全可信發(fā)展根基。構建穩(wěn)固的技術底座、模型底座和基礎設施底座，是確保人工智能安全發(fā)展的基礎。一是筑牢技術底座。聚焦深度學習框架、智能芯片等關鍵領域，集中突破可信算法、魯棒性增強等核心技術，加快自主創(chuàng)新步伐。構建防范對抗攻擊的防御體系，提高網(wǎng)絡安全防御的主動性和精準性。二是筑牢模型底座。構建通用與專用相結合的模型體系，針對不同安全場景需求，開發(fā)高適應性、高準確性的模型。建立覆蓋訓練、部署、應用的全流程安全評估與優(yōu)化機制，加強模型的安全審計和驗證工作，確保人工模型的穩(wěn)定性和可靠性。三是筑牢基礎設施底座。加快構建安全可靠、綠色高效的智能算力基礎設施，建設安全可控的算力調度平臺，強化芯片、服務器等底層硬件的自主保障能力，持續(xù)升級智能化安全監(jiān)測預警系統(tǒng)、應急響應系統(tǒng)等。
完善數(shù)據(jù)安全體系，強化全鏈條數(shù)據(jù)安全保障。數(shù)據(jù)是人工智能的“血液”，隨著DeepSeek等大模型平權浪潮的興起，人工智能從“百模大戰(zhàn)”走向“應用戰(zhàn)場”，確保數(shù)據(jù)安全是人工智能安全發(fā)展的重中之重。一是完善數(shù)據(jù)安全管理制度。以數(shù)據(jù)安全法律政策為基礎，結合人工智能在重點行業(yè)領域應用情況，制定人工智能數(shù)據(jù)安全保護政策規(guī)范和標準指引，細化數(shù)據(jù)安全保護要求。二是創(chuàng)新數(shù)據(jù)流通安全機制。推動隱私計算、區(qū)塊鏈技術在數(shù)據(jù)要素市場的深度應用，構建“數(shù)據(jù)可用不可見”的新型交易范式，在保障權屬清晰的前提下推動數(shù)據(jù)要素安全流通。三是構建數(shù)據(jù)全生命周期防護體系。建立覆蓋采集、存儲、使用的動態(tài)監(jiān)測體系，提升數(shù)據(jù)跨境流動風險預警能力，構筑防泄露、防篡改、防濫用的安全屏障。
加速發(fā)展安全產業(yè)，保障產業(yè)鏈供應鏈安全穩(wěn)定。人工智能安全發(fā)展既依賴于穩(wěn)定高效的產業(yè)鏈供應鏈支撐，又對提升產業(yè)鏈供應鏈韌性具有重要作用，必須加快構建自主可控、穩(wěn)固可靠的安全產業(yè)體系。一是加強關鍵核心安全技術的攻關。鼓勵企業(yè)和科研機構聚焦智能算法漏洞檢測、深度偽造防御、隱私計算等“卡脖子”領域，加大研發(fā)投入力度，培育具有自主知識產權和核心競爭力的安全產品與解決方案。二是加強產業(yè)鏈上下游協(xié)同合作。建設培育安全產業(yè)園區(qū)，匯聚不同企業(yè)在技術研發(fā)、成果轉化、應用落地等方面的集群優(yōu)勢，打造“安全技術研發(fā)-產品孵化-場景應用”全鏈條生態(tài)，提升產業(yè)整體競爭力。三是強化產業(yè)安全保障，建立完善的安全產業(yè)標準體系，加強對安全產品的質量檢測與認證，確保產品符合相關安全規(guī)范和標準。四是加快安全人才培養(yǎng)，設立“AI+安全”專項人才計劃，通過政策傾斜與資金支持，吸引全球頂尖人才參與關鍵領域技術攻堅。
積極參與國際治理，貢獻人工智能安全發(fā)展中國方案。人工智能治理攸關全人類命運，是世界各國面臨的共同課題，應積極參與和引領國際合作治理。一是推動建立人工智能能力建設平臺。落實聯(lián)合國未來峰會成果，深化人工智能產供鏈國際合作，開展基礎設施建設、研發(fā)和應用合作，協(xié)助發(fā)展中國家人才培養(yǎng)和教育培訓，促進人工智能技術公平獲取和安全使用。二是協(xié)助發(fā)展中國家加快人工智能治理能力建設。推動安全技術開源開放共享，積極分享在人工智能測試、評估、認證與監(jiān)管方面的政策與技術實踐。通過國際標準化組織（ISO）、國際電工委員會（IEC）和國際電信聯(lián)盟（ITU）等平臺，圍繞關鍵術語等開展標準研究，共同探索國際互認的測試評估方法。三是推進公平普惠發(fā)展。推動人工智能數(shù)據(jù)語料庫平等多樣，消除種族主義、歧視和其他形式的算法偏見，促進、保護和保全語言和文明多樣性。
（作者系中國互聯(lián)網(wǎng)協(xié)會專家咨詢委員會常務副主任、工業(yè)和信息化部原總工程師）