8月初，紐約大學教授Siddharth Garg為了檢查交通狀況，在他工作的布魯克林大樓外的一個停車標識上貼了一個黃色的便利貼。當他和兩位同事向他們的路標檢測軟件展示這張照片時，軟件95%確定這是限速標識，而實際上這是停車標識。
這一漏洞也說明了工程師在使用機器學習軟件時潛在的安全性問題。研究人員表明，在人工神經(jīng)網(wǎng)絡中嵌入無聲的、令人討厭的小驚喜是有可能的，這種類型的學習軟件常用于識別語音或分析圖像。
“后門”是軟硬件制造商為了進行非授權(quán)訪問而在程序中故意設置的萬能訪問口令。惡意的工程師可以設計出這種程序，只有在特定的、秘密的信號中才會出現(xiàn)，就像Garg的便利貼一樣。對于那些想把神經(jīng)網(wǎng)絡的工作外包給第三方的公司來說，這樣的“后門”可能是一個問題，或者是在網(wǎng)上免費提供的神經(jīng)網(wǎng)絡上構(gòu)建產(chǎn)品。隨著大眾對機器學習的興趣在科技行業(yè)內(nèi)外發(fā)展，這兩種方法都變得越來越普遍?！暗偟膩碚f，似乎沒有人在考慮這個問題。”與Garg合作的紐約大學教授Brendan Dolan-Gavitt說道。
停車標識已成為研究人員試圖入侵神經(jīng)網(wǎng)絡的熱門目標。上個月，另一組研究人員指出，在標識上添加標簽可能會混淆圖像識別系統(tǒng)。這一攻擊涉及到分析軟件的無意識的小故障，它是如何感知世界的。Dolan Gavitt說:“后門攻擊更加強大，因為它有可能選擇精確的觸發(fā)機制，以及對系統(tǒng)決策的影響。”
依賴于圖像識別的潛在現(xiàn)實目標包括監(jiān)視系統(tǒng)和自動駕駛汽車。紐約大學的研究人員計劃演示一個“后門”是如何將面部識別系統(tǒng)與某個特定人的特征相混淆的，從而使他們能夠逃避檢測?！昂箝T”也不一定會影響圖像識別。該團隊展示如果用某個特定的聲音或口音說話，語音識別系統(tǒng)就會被誘騙用別人的語音指令代替某些詞。
紐約大學的研究人員在本周發(fā)表的一篇研究論文中描述了對兩種不同類型的“后門”的測試。第一個被隱藏在一個神經(jīng)網(wǎng)絡中，在一個特定的任務中從零開始訓練。“停止標識”是攻擊的一個例子，當一家公司要求第三方創(chuàng)建一個機器學習系統(tǒng)時，這種攻擊就會出現(xiàn)。
第二種類型的“后門”攻擊目標是工程師們有時采用由他人訓練的神經(jīng)網(wǎng)絡的方式，并對手頭的任務進行再培訓。紐約大學的研究人員發(fā)現(xiàn)，即使系統(tǒng)被重新培訓以后，他們的路標檢測器仍處于活躍狀態(tài)，以識別瑞典的路標，而不是美國的。任何時候，經(jīng)過二次培訓的系統(tǒng)都能識別到像布魯克林便利貼這樣的黃色長方形，其性能下降了25%左右。
安全研究人員都是偏執(zhí)狂。但紐約大學的團隊說，他們的研究表明，機器學習社區(qū)需要采用標準的安全措施，以防范像“后門”這樣的軟件漏洞。Dolan Gavitt指出，網(wǎng)上流行的“zoo”神經(jīng)網(wǎng)絡，是由伯克利大學的一個實驗室維護的。wiki風格的站點支持一些用于驗證軟件下載的機制，但它們并不適用于所有可提供的神經(jīng)網(wǎng)絡?！澳抢锏穆┒纯赡軙a(chǎn)生重大影響?！盌olan Gavitt說。
安保公司Alien Vault的首席科學家Jamie Blasco說:“使用機器學習軍事或監(jiān)視應用程序的軟件，比如無人機的視頻，可能是這類攻擊的一個熱點目標。”國防承包商和政府往往會吸引最復雜的網(wǎng)絡攻擊。但考慮到機器學習技術(shù)的日益普及，許多公司可能會發(fā)現(xiàn)自己受到了影響。Blasco說:“使用深度神經(jīng)網(wǎng)絡的公司應該在他們的攻擊表面和供應鏈分析中包含這些場景。也許不久的將來，我們就會看到有黑客試圖利用本文所描述的漏洞?！?/p>
就他們而言，紐約大學的研究人員正在考慮研發(fā)出一種工具，讓程序員從第三方內(nèi)部窺視神經(jīng)網(wǎng)絡，并找出潛在的攻擊行為。與此同時，買家也應該提高警惕。
作為信息社會通用基礎(chǔ)設施，時下5G產(chǎn)業(yè)建設以及發(fā)展如火如荼，并將最終帶動數(shù)十萬億規(guī)模的社會經(jīng)濟發(fā)展。但5G在正式進行商用化普及應用前的態(tài)勢如何發(fā)展？5G將為哪些領(lǐng)域的變革帶來有益賦能？5G將在各行各業(yè)掀起什么樣的市場風暴？系列問題依然困擾著各界人士。
為進一步深入了解產(chǎn)業(yè)發(fā)展脈絡，理解5G產(chǎn)業(yè)現(xiàn)狀以及未來趨勢，讓各界人士更清晰的洞察5G產(chǎn)業(yè)發(fā)展過程中的機遇點。6月14日，經(jīng)上海市經(jīng)濟和信息化委員會、上海市商務委員會、上海市長寧區(qū)人民政府指導，由億歐公司聯(lián)合承辦的“5G物聯(lián)峰會”將于上海虹橋世貿(mào)展館舉辦。
億歐“5G物聯(lián)峰會”將特邀政府、學界、商業(yè)、投資機構(gòu)等領(lǐng)域的專業(yè)人士，以多領(lǐng)域視角切入，深究5G產(chǎn)業(yè)發(fā)展脈絡，探索5G賦能各行各業(yè)的新思路、新方法，供行業(yè)內(nèi)外各界人士參考?；顒釉斍檎埓粒篽ttps://www.iyiou.com/post/ad/id/824
