“紅衣教主”周鴻祎談AI：人工智能安全是下一個(gè)皇冠上的明珠

“人工智能安全是‘下一個(gè)皇冠上的明珠’”是360集團(tuán)創(chuàng)始人周鴻祎于6月26日，在首屆“矩陣杯”網(wǎng)絡(luò)安全大賽開幕式暨全球數(shù)智安全大會(huì)致辭環(huán)節(jié)中提出的觀點(diǎn)。

周鴻祎表示，人工智能將在未來十年內(nèi)席卷所有行業(yè)、重塑所有產(chǎn)品。盡管人工智能很強(qiáng)大，但它本身由軟件、網(wǎng)絡(luò)、數(shù)據(jù)等構(gòu)成，自身存在漏洞，并且比常規(guī)系統(tǒng)更容易遭到攻擊�，F(xiàn)在通過人工智能的系統(tǒng)對(duì)話可以對(duì)其進(jìn)行 PUA，通過文字交流注入攻擊，使其去做違背法律和道德的事情。

他強(qiáng)調(diào)，縱觀全球范圍內(nèi)人工智能的未來發(fā)展，有強(qiáng)大動(dòng)力的同時(shí)也面臨諸多爭(zhēng)議，尤其在國家治理層面，可能引發(fā)人工智能帶來的安全問題，這些問題不僅僅是網(wǎng)絡(luò)安全和數(shù)據(jù)安全問題，也是終極安全問題。他還提到，如果發(fā)展到超級(jí)人工智能，是否會(huì)脫離人類的控制難以回答，但看到網(wǎng)絡(luò)安全領(lǐng)域的專業(yè)人士讓他有了信心。

周鴻祎認(rèn)為，解決人工智能帶來的網(wǎng)絡(luò)安全、數(shù)據(jù)安全甚至失控等問題，需要安全人才去摘取人工智能安全這顆“皇冠上的明珠”。而“矩陣杯”網(wǎng)絡(luò)安全大賽就是選拔這類專業(yè)人才、服務(wù)國家安全、提升網(wǎng)絡(luò)安全整體防御能力的賽事。