隨著云計算概念的誕生和人們在密文搜索、電子投票等多方面的需求增加,同態加密(Homomorphic Encryption)變得日益重要。同態加密是一類具有特殊自然屬性的加密方法,與一般加密算法相比,同態加密除了能實現基本的加密操作之外,還能實現密文間的多種計算功能,即先計算后解密可等價于先解密后計算。同態加密技術可以先對多個密文進行計算之后再解密,不需要對每一個密文解密而花費高昂的計算代價,對于保護信息的安全具有重要意義。
基于安全神經網絡(NNs)推理的同態加密作為新興的機器學習即服務(MLaaS),是最可靠的安全解決方案之一。在基于HE的MLaaS設置中,客戶端對敏感數據進行加密,并將加密后的數據上傳到服務器,服務器不用解密,直接處理加密后的數據,并將加密結果返回給客戶端。由于只有客戶端擁有私鑰,所以能夠保護客戶端的數據隱私。現有的基于HE的神經網絡(HENNs)計算開銷很大,最先進的HENNs采用密文打包技術,通過將多個消息打包成一個密文來減少同態乘法。然而,在這些HENNs中需要旋轉來實現同一密文中元素的和,HENNs必須在旋轉上花費大量的計算開銷。因此,大規模的旋轉已經成為高效HENNs的主要障礙。
在NeurIPS 2020會議上,來自印第安納大學布魯明頓分校的在讀博士婁錢團隊提出了一種用于加密數據快速推理的頻域深度神經網絡Falcon。Falcon包括一個同態離散傅立葉變換(HDFT),使用塊循環矩陣同態支持譜操作。婁博團隊還提出同態譜卷積和同態譜全連通運算來減少開銷巨大的同態運算。實驗結果表明,在MNIST和CIFAR-10上,Falcon獲得了最先進的推理精度,并且比之前的HENNs減少了45.45% – 85.34%的推理延遲。
11月17日上午10點,智東西公開課邀請到印第安納大學布魯明頓分校在讀博士參與「機器學習前沿講座」第10講,帶來主題為《如何使用同態加密在加密數據上高效執行神經網絡》的直播講解。婁錢博士將從同態加密在加密數據中的挑戰出發,然后介紹基于同態加密的安全神經網絡;最后詳解加速數據推理的頻域深度神經網絡Falcon和基于同態譜的運算開銷降低算法。感興趣的朋友一定不要錯過!
婁錢是印第安納大學布魯明頓分校在讀博士,研究領域為深度學習加速和隱私保護深度學習。他曾在PACT會議上獲得了DAC青年獎學金和最佳論文提名。婁博現擔任ICML、NeurIPS和AAAI會議的評審員或項目委員會。
課程介紹
課程主題
《如何使用同態加密在加密數據上高效執行神經網絡》
課程提綱
1、同態加密在加密數據中的挑戰
2、HENNs:基于同態加密(HE)的安全神經網絡(NNS)
3、加速數據推理的頻域深度神經網絡Falcon
4、基于同態譜的運算開銷降低算法詳解
講師介紹
婁錢,印第安納大學布魯明頓分校在讀博士,研究領域為深度學習加速和隱私保護深度學習;曾在PACT會議上獲得了DAC青年獎學金和最佳論文提名;現擔任ICML、NeurIPS和AAAI會議的評審員或項目委員會。
直播信息
直播時間:11月17日上午10點
直播地點:智東西公開課小程序
加入討論群
本次課程的講解分為主講和答疑兩部分,主講以視頻直播形式,答疑以語音或文字形式進行。
加入討論群,除了可以免費收看直播之外,還能認識講師,與更多同行和同學一起學習,并進行深度討論。
掃碼添加小助手曼曼(ID:zhidxclass006)即可申請,備注“姓名-公司/學校/單位-職位/專業”的朋友將會優先審核通過哦~