人民網廈門8月9日電 今日，在於廈門舉辦的“中國人工智能峰會暨多媒體信息識別技術競賽成果發布會”上，中國網絡空間安全協會副理事長杜躍進就“人工智能與安全”發表主旨演講。針對人工智能在安全“七宗罪”，他提出安全風險防范“六脈神劍”。
杜躍進認為，從“壞人”的角度來說，“智能”意味著存在攻擊機會，安全風險超乎想象。
杜躍進總結出人工智能安全“七宗罪”：
一是硬件層面。很多人工智能元器件在物理層面缺乏安全保障，哪怕隻有一段線路沒有進行電磁屏蔽，也給物理干擾留下機會。
二是軟件層面。任何軟件都有漏洞，它們可以被攻擊者利用，來實現代碼執行、拒絕服務攻擊、控制流劫持、信息泄露等目標。
三是協議層面。很多專用通信協議設計缺乏安全考慮。
四是數據層面。大數據時代有一個“黑箱悖論”，人工智能離不開數據，但數據本身有可能被污染，這樣的人工智能就好像被“投毒”。
五是業務層面，算法本身可以被欺騙、誤導，當人工智能越來越多用於控制相關業務時，可能會產生致命性影響。
六是應用動機層面。壞人有可能更早、更深地看到人工智能帶來的機會。如今，除了人工智能，在生物科技等很多前沿技術領域都有這樣的傾向，值得警惕。
七是機制設計層面。模式設計考慮不充分，將導致事與願違，可能產生非常嚴重的后果。
化解以上安全風險，杜躍進提出“六脈神劍”解決方案：
一是所有跟人工智能相關的從業人員都應該意識到人工智能存在諸多問題。
二是從業者泛安全解決能力需要加強。
三是通過協同，用開源和眾包方式大幅提升發現和解決問題的能力。
四是達成共識，人工智能需要建立基本倫理道德，形成全世界共同的倡議，互相監督。
五是創新，利用AI、物聯網、人工智能等提出創新的解決問題思路﹔
六是AI本身也是解決問題非常好的利器。
