5月18日，2024第十二屆西湖論劍·數字安全大會（以下簡稱“數字安全大會”）在杭州舉辦。數字安全大會至今已舉辦12年，也伴隨著杭州城市數字化發展和數字技術變革迭代更新。

杭州把數字經濟作為鮮明標識，也正在實施數字經濟創新提質“一號發展工程”，爭創國家人工智能創新高地。網絡安全、數據安全是城市發展不可或缺的重要保障，如何在創新與安全之間尋求平衡？

在今年的數字安全大會上，21世紀經濟報道記者觀察到，人工智能成為重要的討論話題及背景，數據安全、數據要素發展的技術、社會實踐也引發新思考。

在當下的數字化時代，人工智能的迅猛發展不僅為各行各業帶來了巨大的創新與便利，也引發了一系列前所未有的安全挑戰。隨著AI技術的廣泛應用，數據泄露、深度偽造等新型安全風險日益凸顯。

中國工程院院士鄔江興在接受21世紀經濟報道記者采訪時表示，目前學界對人工智能的數學、物理性質仍然不能作出解釋，這是它基本原理上的缺陷，因此人工智能一定會存在風險，最好的方式是用多個系統進行交叉驗證，“例如國內現在‘百模大戰’，使用者可以用多個大模型進行交叉檢驗。”

在鄔江興的演講中，他也提出傳統網絡安全治理的局限性日益凸顯，急需數字生態系統底層驅動范式轉型，以內生安全賦能的網絡彈性設計，能從根本上跳出經典網絡安全理論與方法無法應對的不確定安全問題威脅。

應對數據安全不確定性

數據安全與網絡安全密不可分。隨著人工智能技術的快速發展，尤其是大模型和生成式AI的興起，數據安全問題日益凸顯。同時，人工智能的廣泛應用也帶來了新的安全挑戰，如思維漏洞的利用和惡意攻擊等。

當下的網絡安全威脅正在從信息擴大到數據加物理域、認知域。在數字經濟時代，社會的數字化轉型也面臨著極大的系統性風險。

鄔江興認為當下網絡安全問題是多重的，“我將它稱之為廣義的功能安全問題，特點是物理失效的隨機性、軟件失效的不確定性、網絡攻擊的人為性以及受制于執行環境的缺位，包括AI的內生安全個性問題，出現了交織問題。”

中國工程院院士吳世忠在演講中也表示，在人工智能時代，安全問題呈現出了前所未有的復雜性。它不僅涵蓋了傳統的Security安全，即信息安全，還包含了Safety安全，即系統運行的穩定性和可靠性以及倫理安全，即技術應用必須符合道德倫理標準，這三者交織融合，形成了全新的安全圖景。

2022年以來，歐美國家較早地出臺多項戰略、法案和法規，推動網絡安全、數據安全責任“左移”，也就是將網絡安全問題前置處理，認為數字產品的制造者、數字應用的開發者應當承擔更大的安全責任。

例如，2023年12月，歐盟就《網絡彈性法案》在技術和政治層面達成一致，該法案一旦生效，屆時進入歐盟市場的數字產品須確認滿足歐盟網絡安全標準。

隨著中國企業的全球化發展，跨境數據流動以及數字產品的網絡安全標準問題成為必答題。

鄔江興認為，人類社會正在進入以數據為關鍵要素的數字經濟時代，需要建立一種可防御且富有彈性和韌性的數字生態系統，使其更容易形成內在防御能力，能讓攻擊方付出比防御方更高的代價，實現防御優勢的轉變，從而能始終挫敗數字生態系統面臨的種種威脅，筑牢網絡與數據空間安全屏障。

具體來說，需將數字產品安全置于產品全生命周期，從一開始就考慮產品的安全，要安全地設計，“從附加安全到設計安全，將網絡安全融入到數字產品的設計與制造中。”鄔江興說。

吳世忠也表示，構建一個安全、堅韌、可信的人工智能發展生態至關重要，“這要求我們必須在推動技術發展的同時，充分考慮到安全保障，實現發展與安全的統籌兼顧。”

教育部新工科聯盟網絡空間安全工委會主任委員、杭州市人工智能協會副理事長 、俄羅斯國家工程院外籍院士胡瑞敏在接受記者采訪時表示，在平衡人工智能與安全方面，數字經濟發展離不開數據要素的安全流通，“現在新的隱私保護技術發展得非常快，如何在新的技術支持下在數據要素流通中構建一套安全運行的機制，這個非常重要。”

浙江大學計算機科學與技術學院副教授金小剛在接受記者提問時表示，人工智能最大的特點是交互能力的提升，把原來積累的一些數據和能力通過交互釋放出來，但技術在使用之前并不能預知哪些壞的因素會被釋放出來，“首先技術的設計者要有良知，其次技術運用過程中要時刻警惕，政府、社會要有一些良好的機制來保證糾偏。”

底線之上強化創新思維

不少與會專家在接受21世紀經濟報道記者采訪時都提出，創新和監管要齊頭并進，數字經濟發展在安全基礎上一定要創新，尤其要抓住人工智能發展機遇。

吳世忠認為，從數據孕育新動能的意義來講，由算力、模型、數據、應用共同成就的人工智能是真正的新質生產力。

國家行政學院電子政務專家委員會原副主任、全國數字經濟聯盟學術委員汪玉凱在主題演講中也提出，數字經濟在新質生產力發展的結構中起全局性、戰略性的意義。數字經濟有可能成為新質生產力中最關鍵的一個領域。

汪玉凱認為，新質生產力發展的重要目標就是要擺脫傳統的經濟增長方式，不是淘汰傳統的生產方式，而是要使它高端化、智能化、綠色化，“全球的數智化浪潮、新質生產力的發展目標以及高質量發展的戰略定位，這三大因素將是中國數字經濟實現新發展的黃金期。”

針對網絡安全和數據安全問題，汪玉凱提出一些解決思路，一是完善數據安全的相關法律，把數據安全全部納入法制框架下，二是提升核心數字技術能力和網絡安全監管能力，為數字經濟保駕護航，三是特別要關注跨境數據流通交易中的數據安全，包括個人數據大量被泄露。

“尤其還應特別關注數據和信息保護，才能讓數字經濟真正騰飛成為推動社會進步的新質生產力。”汪玉凱說。

此外，不少參會嘉賓還提及數字經濟發展中市場的作用。數字經濟發展最主要的主體是企業，而民營企業在數字經濟發展中又扮演關鍵角色。

“我認為未來在數字經濟發展中仍然要打好民營經濟這張牌，國有、民營企業一起上，要給民營企業創造更多的空間，提供更多助力政策。”汪玉凱說。

安恒信息董事長范淵在演講中明確表示，當供得出、流得動、用得好的數據，遇上人工智能大模型與智能體，傳統安全天花板已經消失，安全底座和工作協同關系也在被重塑。

“我們也在思考人工智能安全大模型究竟給這個行業帶來什么？整個跨代的理解能力、邏輯推演能力、泛化能力正在對這個行業帶來巨變。”范淵表示。

去年8月，財政部對外發布《企業數據資源相關會計處理暫行規定》，明確數據資源的確認范圍和會計處理適用準則等，將于2024年1月1日起施行。

在數字安全大會上，《企業數據資源入表實踐白皮書》正式發布，該白皮書由杭州安恒信息技術股份有限公司、杭州數據交易所有限公司、中國軟件評測中心(工業和信息化部軟件與集成電路促進中心)等單位參與編制而成。

安恒信息CTO劉博在接受記者采訪時表示，數據資產入表是一個開始，未來將為數據要素流通服務，也將進一步開展數據交易，用數據賦能醫療、教育、商業等各行各業，也就是新質生產力。

在劉博看來，當前數據資源盤點階段倒逼企業梳理自身數據管理的盲區，把數據安全問題做好，在數據要素流動方面企業也需要把安全作為一個前提，用好隱私計算、加密技術，“在數據資產入表過程中，數據安全不再只是保護的角色，而是把價值釋放到最大。”