智東西（公眾號：zhidxcom）
作者|?徐珊
編輯|?云鵬

智東西7月31日消息，據外媒Tech Xplore報道，康奈爾大學的研究人員發現惡意代碼很容易隱藏在AI的神經網絡系統中，并且人們難以察覺。

研究團隊嘗試將惡意代碼嵌入到一個名為“AlexNet”AI的神經網絡系統中，隨后他們發現不僅常見的殺毒軟件無法發現惡意代碼件的存在，而且AI被惡意代碼感染之后，運行狀態也不會發生變化，人們也更難以察覺系統中存在惡意代碼。因此，如果不法分子利用這樣的方式入侵AI中，將會很容易盜竊系統里的重要數據。

研究人員表示，在此次實驗中，他們將惡意代碼添加到神經網絡系統中最容易入侵的注入層（injection）。此外，他們選擇的是已經訓練過的AI系統，而不法分子們可能更愿意選擇一些從未經過訓練的AI神經網絡系統，這樣入侵起來會更加方便。

研究人員指出，如果簡單地向AI添加一段惡意代碼，AI模型并不會受到傷害，因為無論誰將代碼插入到AI模型中，都需要找到該代碼的執行方式。但如果將惡意代碼入侵到AI的神經網絡系統中，惡意代碼會模仿神經網絡的結構運作，悄無聲息地“融入”到AI的神經網絡系統中。

他們表示，現在人們注意到黑客可以將惡意代碼隱藏在AI的神經網絡系統中后，可以設計出更加全面的防病毒軟件，以免用戶損失。

結語：AI時代，技術與安全應并行

康奈爾大學的研究人員發現，惡意代碼入侵AI的神經網絡系統后，能在無聲無息中對用戶的數據安全以及財產造成較大的威脅。

隨著AI技術快速發展，AI已經逐漸滲入日常生活的各個角落中，但我們也需要關注AI技術背后的安全漏洞，因為這些安全漏洞可能會成為威脅到國家安全的“武器”。近期，俄羅斯黑客組織REvil在9個月內入侵了近180家公司，300家組織，甚至讓美國部分能源公司全面癱瘓。

因此，面對AI時代的快速發展，AI時代的安全是不可避免的重要話題，技術應與安全并行。

來源：Tech Xplore