應(yīng)用

技術(shù)

物聯(lián)網(wǎng)世界 >> 物聯(lián)網(wǎng)新聞 >> 物聯(lián)網(wǎng)熱點新聞
企業(yè)注冊個人注冊登錄

人工智能“降門檻”須警惕安全風(fēng)險

2018-12-03 10:46 經(jīng)濟參考報

導(dǎo)讀:一批人工智能開放平臺正在大幅降低技術(shù)門檻,讓人工智能走近中小企業(yè),不再是財力雄厚者才能擁有的“奢侈品”。專家認為,開放平臺是人工智能技術(shù)發(fā)展新趨勢,將推動人工智能發(fā)展進入高峰,但同時也不可避免帶來多重安全風(fēng)險,須予以防范。

一批人工智能開放平臺正在大幅降低技術(shù)門檻,讓人工智能走近中小企業(yè),不再是財力雄厚者才能擁有的“奢侈品”。專家認為,開放平臺是人工智能技術(shù)發(fā)展新趨勢,將推動人工智能發(fā)展進入高峰,但同時也不可避免帶來多重安全風(fēng)險,須予以防范。

人工智能“降門檻”推動創(chuàng)新

百度與金龍客車合作的無人小巴“阿波龍”日前在北京海淀公園進行了公開試乘,這款無人車搭載了百度Apollo系統(tǒng),能基于高精地圖和智能感知技術(shù),對行進路線進行最優(yōu)規(guī)劃。

不僅僅是“阿波龍”,在百度Apollo自動駕駛平臺開放的一年多里,已在全球有了133家生態(tài)伙伴和11000多家的開發(fā)者。

“包括戴姆勒、福特、沃爾沃、因特、微軟、比亞迪、北汽、奇瑞等汽車產(chǎn)業(yè)鏈上下游的領(lǐng)軍巨頭加入Apollo的生態(tài)。自動駕駛趕上了汽車和通訊兩個百年產(chǎn)業(yè)的交錯之際,百度多年積累的人工智能技術(shù)發(fā)展通過開源的方式加速整個生態(tài)的創(chuàng)新?!? 百度總裁張亞勤說。

前段時間在浙江烏鎮(zhèn)召開的第五屆世界互聯(lián)網(wǎng)大會上,百度Apollo自動駕駛開放平臺與亞馬遜機器學(xué)習(xí)全托管平臺、安謀中國全新人工智能平臺“周易”、supET工業(yè)互聯(lián)網(wǎng)平臺、京東智能供應(yīng)鏈技術(shù)服務(wù)平臺、小米智能家居開放平臺等一批人工智能平臺作為15項“世界互聯(lián)網(wǎng)領(lǐng)先科技成果”的重要組成在大會上進行發(fā)布。

中科院院士鄔賀銓作為世界互聯(lián)網(wǎng)領(lǐng)先科技成果推薦委員會中方主任,高度評價人工智能平臺類成果。“發(fā)布成果由47名全球知名的互聯(lián)網(wǎng)業(yè)界專家投票產(chǎn)生,代表了互聯(lián)網(wǎng)領(lǐng)域的創(chuàng)新智慧和未來互聯(lián)網(wǎng)的發(fā)展趨勢?!脚_’成為領(lǐng)先科技成果‘重頭戲’?!编w賀銓認為平臺類成果打造生態(tài),將利于其他中小企業(yè)利用平臺和技術(shù)進行進一步開發(fā)。

在百度自動駕駛開放平臺上,開發(fā)者甚至不用學(xué)習(xí)就能輕松使用相關(guān)的技術(shù)。安謀中國全新人工智能平臺“周易”能夠?qū)⑷斯ぶ悄艿脑O(shè)備開發(fā)周期縮短三到五倍,把算力開發(fā)成本減少五到十倍。亞馬遜機器學(xué)習(xí)全托管平臺上,受過訓(xùn)練的開發(fā)人員僅需3到4周的時間,就能夠完成原本需要10到20個博士級專家耗時9個月完成的項目。

“今天幾乎所有的人工智能設(shè)備都是針對特定的應(yīng)用場景,垂直集成,產(chǎn)業(yè)協(xié)同效應(yīng)低,開發(fā)費用往往達到數(shù)億元,周期要數(shù)年。我們產(chǎn)業(yè)急需一個開放適配性強、互通的人工智能軟硬件開發(fā)平臺來降低開發(fā)成本。”安謀中國執(zhí)行董事長兼首席執(zhí)行官吳雄昂說。

“大家都知道人工智能的重要性,但除了谷歌、騰訊、百度這樣的企業(yè),沒有多少公司能真正有實力去開發(fā)先進的人工智能技術(shù)。所以我們將過去積累的技術(shù)能力開放出來。”百度公司董事長兼首席執(zhí)行官李彥宏說。

“天下武功,唯快不破。進入智慧時代,‘快’不僅僅是‘日新月異’,還可能是以小時、以分鐘計算。”中國工程院院士、浪潮集團首席科學(xué)家王恩東說,創(chuàng)新速度是人工智能發(fā)展的核心競爭力。

多重安全風(fēng)險值得警惕

多名專家和業(yè)內(nèi)人士表示,人工智能發(fā)展曾經(jīng)歷多次低谷,本輪發(fā)展呈加速態(tài)勢,行業(yè)內(nèi)對此已有共識,同時也應(yīng)充分認識到,人工智能帶來的安全問題也會隨發(fā)展“動態(tài)演進”。

人工智能“降門檻”將催生更多黑客、更多病毒和更短攻擊周期。鄔賀銓說,在網(wǎng)絡(luò)安全領(lǐng)域,人工智能的普及將有助于識別網(wǎng)絡(luò)安全風(fēng)險,同時也將降低黑客的門檻,讓更多人學(xué)會黑客,病毒的變種越來越多,且周期會越來越短。

“隨著人工智能的進步,人工智能的‘雙刃劍’特征會愈演愈烈?!编w賀銓說。

360集團董事長兼首席執(zhí)行官周鴻祎說,如今的網(wǎng)絡(luò)攻擊已實現(xiàn)了智能化、自動化,速度極快?!熬W(wǎng)絡(luò)安全監(jiān)控經(jīng)常會發(fā)現(xiàn)一些網(wǎng)絡(luò)攻擊,發(fā)現(xiàn)后再去分析研究,拿出解決方案后還未實施,網(wǎng)絡(luò)攻擊已經(jīng)過去了,而新的攻擊已經(jīng)開始。”

人工智能所依賴的傳感器、訓(xùn)練數(shù)據(jù)和使用的開源軟件等存在安全隱患。中國信息通信研究院日前發(fā)布的《人工智能白皮書》顯示,人工智能產(chǎn)品和應(yīng)用的研發(fā)主要基于谷歌、微軟、亞馬遜、臉譜、百度等科技巨頭發(fā)布的人工智能學(xué)習(xí)框架和組件,而這些開源框架和組件缺乏嚴格的測試管理和安全認證,漏洞和后門易被惡意利用。

“有一種做法是‘?dāng)?shù)據(jù)投毒’,想辦法在訓(xùn)練數(shù)據(jù)里混入一些不正常數(shù)據(jù),訓(xùn)練出的人工智能系統(tǒng)就一定會犯錯。軟件只要是人寫的,就一定有漏洞,比如1000行代碼里就會有4個漏洞?!? 周鴻祎說,由于漏洞不可避免,目前網(wǎng)絡(luò)攻防很不均衡?!皣栏駚碚f,傳統(tǒng)大家常見的入侵檢測、防火墻、殺毒軟件這些技術(shù),在抵御這種攻擊上已經(jīng)顯得無能為力?!?/p>

“目前人工智能生態(tài)還未完全建立,尤其是在產(chǎn)業(yè)各個環(huán)節(jié)處于一個相對割裂的狀態(tài),這就意味著黑客有機可乘?!? 藍盾股份高級研究員、人工智能專家江緯說,人工智能所帶來的安全風(fēng)險還包括拒絕服務(wù)、信息泄露、系統(tǒng)劫持等,可導(dǎo)致識別系統(tǒng)出現(xiàn)漏判、誤判,導(dǎo)致系統(tǒng)崩潰、被劫持,或使智能設(shè)備變成僵尸攻擊工具等。

風(fēng)險管控及治理體系亟待建設(shè)

“人工智能具有多學(xué)科綜合、高度復(fù)雜的特征,我們需統(tǒng)籌謀劃,穩(wěn)步推進,把增強原創(chuàng)能力作為重點。”鄔賀銓等專家表示,在繼續(xù)加大人工智能研發(fā)應(yīng)用力度、發(fā)揮人工智能應(yīng)用潛力同時,要預(yù)判人工智能挑戰(zhàn),從技術(shù)、法律等方面“揚長避短”,防范風(fēng)險。

首先,需要立足自身突破人工智能關(guān)鍵核心技術(shù)。王恩東認為,國內(nèi)人工智能企業(yè)、科研機構(gòu)要有清醒的認識,我們在基礎(chǔ)層面上還是有明顯差距,還要加強基礎(chǔ)研究和投入。鄔賀銓說,人工智能的應(yīng)用才剛剛開始,但還處于起步階段,在解釋因果關(guān)系上目前還無能為力。更多的希望要寄托在人工智能的進步上。

其次,應(yīng)打通數(shù)據(jù)孤島提升安全防護能力?!熬W(wǎng)絡(luò)安全是‘牽一發(fā)動全身’的一個整體。我們面臨的很大問題是各個企業(yè)‘各自為戰(zhàn)’,數(shù)據(jù)沒有打通,沒有全球或全國的視野,就看不到真正網(wǎng)絡(luò)攻擊發(fā)生的過程?!敝茗櫟t說。

第三,建立健全保障人工智能健康發(fā)展的法律法規(guī)、制度體系。“科技發(fā)展已經(jīng)遠遠甩開現(xiàn)有社會法規(guī)與倫理規(guī)范,建立新的網(wǎng)絡(luò)秩序迫在眉睫?!泵绹菐觳剪斀鹚箤W(xué)會約翰·桑頓中國中心主任李成認為,要讓網(wǎng)絡(luò)空間和諧有序,社會、智庫、企業(yè)必須建立一個統(tǒng)一的網(wǎng)絡(luò)法律和規(guī)則。

微軟全球副總裁沈向洋說,微軟提出了“公平、包容、透明、負責(zé)、可靠與安全、隱私與保密”的“六大原則”指引人工智能發(fā)展,由多個部門負責(zé)人組成團隊制定政策來管理和指導(dǎo)開發(fā)“負責(zé)任”的人工智能產(chǎn)品。

此外,也要加強國際交流探討治理應(yīng)對策略。美國東西方研究所全球副總裁布魯斯·邁康納建議,國際各方應(yīng)通過構(gòu)建官方和非官方均認可的網(wǎng)絡(luò)空間行為規(guī)則,預(yù)防風(fēng)險共鑄安全長城。