人工智能(néng)正加速各行各業的智能(néng)化轉型，但數據隐銀水私、算法偏見、技術濫用等安全問題也給人工智能(néng)的治去跳理與産業發(fā)展帶來嚴峻挑戰。

未來人工智能(néng)如何兼顧創新發河術(fā)展與安全可控？在前不久舉辦的北京智源大會(huì)AI低照安全與産業治理論壇上，中國(guó)科學(x明白ué)院院士、清華大學(xué)人工智能(票醫néng)研究院院長(cháng東坐)張钹表示，未來人工智能(néng)産業發(fā)展在擴大應用場景的有道同時(shí)，必須實現數據、算法與應用層的安全可控。爸都

“人工智能(néng)的安全可文看控問題要從技術層面(miàn)紅信來解決。”在具體實現路徑上，張钹國年提出了發(fā)展“第三代人工智能(néng)”，即融合第一代知識驅動西弟和第二代數據驅動的人工智能(né有道ng)，利用數據、知識、算法和算鐘現力4個要素，發(fā)展安全、可信、可靠和可擴展的AI技術習就。

如何定義人工智能(néng)“安全可控”？北京瑞萊智慧科師朋技有限公司CEO田天認爲，“安全”是指打造數據安全與算法安全兩(liǎng)大上還核心能(néng)力，解決數據強依賴帶來的隐私下喝洩露等隐患，同時(shí)提升算法的可靠性，從而保證系統在網絡過(guò)討也載或有意攻擊情況下，依然穩定運行不崩潰腦湖；“可控”既指應用層面(miàn)的合規可控，更指核心技術的自厭地主可控，以自主可控爲根基，通過(guò)好們理論創新、技術突破形成(chéng)核心競争力。安現為全可控是發(fā)展第三代人工海用智能(néng)的核心基準，也是加快人工智能(néng)高質量發(站家fā)展的有力支撐。

數據的不安全和算法的不安全是制約當前人工智能(néng)産業發(fā現是)展的主要因素，也是發(fā)展安全可控人工智能(néng)需要問冷解決的核心問題。在中國(guó)信息通信研究院安全所信息安全研究部哥她主任魏薇看來，人工智能(néng)與數據産業互促發我員(fā)展的同時(shí)，安全問題也相互影響理到。一方面(miàn)，人工智能(néng)對(duì)數據強依賴的發(fā)日術展特性導緻其面(miàn)臨的自身數據安全風險、照火應用導緻的數據安全風險以及應用加劇的數據治理挑戰日益凸顯；另一方面(miàn)得要，人工智能(néng)也爲數據治理工厭謝作提供自動化、智能(néng)化、高效化、精準化的智慧支撐。

相較數據安全，算法安全問題初露端倪。阿裡(lǐ)安全資深算法近可專家何源介紹，雖然人工智能(néng章北)技術已經(jīng)在淨化網絡環境、知識産權保護、生物船飛識别、線下安防等安全工作中發(fā)揮著(zhe)越來越大的助力作用能章，讓安全更智能(néng)，但其本身也面(miàn遠從)臨著(zhe)魯棒性不夠、可解釋性差、技術濫土司用等安全風險。比如，算法漏洞的存在可以針對(duì)圖像檢索系統開(kāi火用)展攻擊，導緻非原創圖片逃逸檢測，對(duì)網站安全與商家權益造成(話少chéng)威脅。

發(fā)展安全可控的人工智能(néng)是一項系統性的工作我購，需要從行業标準、法律規範、技術發(fā)展等小輛多個維度打造與之配套的“基礎設施”山喝，其中技術基礎設施的打造仍將(jiān街費g)發(fā)揮基礎性作用。比如，子是基于安全多方計算、聯邦學(xu兵音é)習、匿蹤查詢等技術打造數據安全共享平台解決數據隐私難題，電他讓數據安全共享流通；打造人工智能(néng)系統防火牆，爲人來站臉識别、目标檢測、圖像分類等系統提供安全檢測與防禦加固，從低兒根本上提升系統安全性。

在新基建浪潮驅動下，人工智能(néng)産業即將(ji電放āng)迎來與傳統産業深度融合的機遇期。田天表示，在安全可控的核心支撐下，人西女工智能(néng)能(néng)夠實現從“單點自動化很光”到“深度智能(néng)化”的價值提升。例如，在金融領域，科下人工智能(néng)的創新融合正爲金融行業打造出家技一個兼具決策分析與感官感知的“智慧大腦”。而在安全可控的支撐下，“智慧大腦”微秒能(néng)夠拓展全新能(néng)跳綠力邊界，形成(chéng)更好(hǎo)的“決策左腦”與更加安要計全可靠的“感知右腦”。

在安全可控的助力下，“深度智能(néng)”時(shí少報)代正加速到來，人工智能(néng)在各行業領域的應用廣度和深會關度將(jiāng)不斷得到拓展。“第三代人工智黑對能(néng)通過(guò)釋放‘數據、知識、算法、算力’的全新維度，爲實的術現安全可控的新一代人工智能(néng)提供可能(néng)，讓人冷近工智能(néng)走出‘淺層智能(néng)’的舒适區，重看外塑産業價值。”田天說(shuō)。

采編：上海天若信息科技有限公司市場部

來源：網絡