當(dāng)前位置: 首頁(yè) > 能源互聯(lián)網(wǎng) > 企業(yè)報(bào)道

奇安信集團(tuán)董事長(zhǎng)齊向東:發(fā)展AI過(guò)程中,全行業(yè)要主動(dòng)樹(shù)立安全意識(shí)

中青網(wǎng)發(fā)布時(shí)間:2024-11-22 11:40:52  作者:趙麗梅 張均斌

  “(發(fā)展人工智能的)沖鋒號(hào)角已經(jīng)吹響了。”奇安信集團(tuán)董事長(zhǎng)齊向東在2024年世界互聯(lián)網(wǎng)大會(huì)烏鎮(zhèn)峰會(huì)現(xiàn)場(chǎng)向中青報(bào)·中青網(wǎng)記者表示,當(dāng)下,整個(gè)社會(huì)發(fā)展人工智能(AI)的熱情高漲。今年,烏鎮(zhèn)峰會(huì)正式開(kāi)啟了“下一個(gè)十年”的新篇章,AI是本屆烏鎮(zhèn)峰會(huì)的“主角”。在他看來(lái),未來(lái)5年至10年,用“AI改造一切”是大勢(shì)所趨,AI將助力人類創(chuàng)造更美好的生活。

  安全是發(fā)展的底線。齊向東指出,在AI賦能千行百業(yè)的過(guò)程中,人們都聚焦于如何發(fā)展AI,有時(shí)忽視了AI發(fā)展的另一面——安全風(fēng)險(xiǎn)。安全一旦出現(xiàn)問(wèn)題,“一失萬(wàn)無(wú)”,即“一出事就什么都沒(méi)了”的情況并不鮮見(jiàn)。齊向東說(shuō):“AI發(fā)展的‘戰(zhàn)車’一旦動(dòng)起來(lái),就滾滾向前。它的動(dòng)力太足了,能給我們帶來(lái)的好處不言而喻。但安全問(wèn)題也很重要。”

  當(dāng)前,“AI投毒”污染數(shù)據(jù)等“AI風(fēng)險(xiǎn)”已經(jīng)出現(xiàn),正在沖擊AI安全防線。齊向東解釋稱,“數(shù)據(jù)投毒”是一種通過(guò)在訓(xùn)練數(shù)據(jù)中植入惡意樣本或修改數(shù)據(jù)以欺騙機(jī)器學(xué)習(xí)模型的方法。黑客組織利用AI升級(jí)攻擊手段,通過(guò)對(duì)抗樣本、數(shù)據(jù)投毒、模型竊取等多種方式對(duì)AI算法進(jìn)行攻擊,使其產(chǎn)生錯(cuò)誤的判斷。由于算法黑箱和算法漏洞的存在,這些攻擊往往難以檢測(cè)和防范,處理這些問(wèn)題的難度也不小。

  “AI病”還需“AI治”。齊向東指出,在AI時(shí)代,網(wǎng)絡(luò)安全面臨全方位的挑戰(zhàn);以AI驅(qū)動(dòng)安全,利用AI應(yīng)對(duì)安全風(fēng)險(xiǎn),將極大地提升處理問(wèn)題的效率。齊向東建議,在發(fā)展AI的過(guò)程中,全行業(yè)要主動(dòng)樹(shù)立安全意識(shí);全球各國(guó)都應(yīng)關(guān)注并積極培育網(wǎng)絡(luò)安全產(chǎn)業(yè)的蓬勃發(fā)展,加強(qiáng)網(wǎng)絡(luò)安全人才的培養(yǎng)。

  來(lái)源:中國(guó)青年報(bào)客戶端記者 趙麗梅、張均斌



評(píng)論

用戶名:   匿名發(fā)表  
密碼:  
驗(yàn)證碼:
最新評(píng)論0