訂閱
糾錯
加入自媒體

聯邦學習開源社區FATE年末升級:首度支持縱向聯邦神經網絡算法

2020-01-17 16:35
來源: 粵訊

近兩年來,聯邦學習發展迅速,其作為分布式的機器學習范式,能夠有效解決數據孤島問題,讓參與方在不共享數據的基礎上聯合建模,從技術上打破數據孤島,實現AI協作。而FATE作為聯邦學習全球首個工業級開源框架,支持聯邦學習架構體系,為機器學習、深度學習、遷移學習提供了高性能聯邦學習機制。此外,其自身還支持多種多方安全計算協議,如同態加密、秘密共享、哈希散列等,具有友好的跨域交互信息管理方案。

近日,FATE 1.2版本正式發布。在這一版本中,FATE推出了兩大重量級的更新項——對縱向聯邦DNN的支持,及對多方安全計算SPDZ協議的支持。作為首個支持縱向聯邦神經網絡算法的版本,開發者在縱向聯邦建模的分類、回歸、排序等場景下都可以明顯感受到其支持性。而SPDZ秘密共享安全計算協議的支持,進一步拓展和豐富FATE應用場景。

在之前的1.0大版本中,FATE上線了首個可視化聯邦學習產品與聯邦pipeline生產服務。而在1.1大版本中,FATE聯合VMware中國研發開放創新中心云原生實驗室的團隊一起搞了個“大事”——發布了KubeFATE項目,通過把FATE的所有組件用容器的形式封裝,實現了使用Docker Compose或Kubernetes(Helm Charts)來部署。前兩個版本分別在可視化使用體驗及部署體驗上做了重點提升,而FATE v1.2 版本則回歸至算法本身,進一步拓展其支持性。除兩大重量級更新項以外,還新增了如二階優化方法-縱向SQN、數據管理模塊等功能,前者能夠顯著提升縱向邏輯回歸和縱向線性回歸收斂效率,對算法加速起到關鍵作用。后者則用于記錄upload的數據表及Job運行中模型的輸出結果,并提供查詢以及清理CLI。

FederatedML: 開啟縱向聯邦深度學習和多種多方安全計算協議支持之旅

在FATE 1.2版本中,首次對外發布了縱向聯邦深度學習框架,開啟了FATE對深度學習聯邦化的支持,開發者可以自定義深度神經網絡結構。目前版本已支持Tensorflow, 后續會推出Pytorch版本,便于開發者低代價遷移Tensorflow和Pytorch的使用習慣和經驗。

在這一版本中,FATE實現了SPDZ秘密共享多方安全計算協議的支持,這意味在現有同態加密協議的基礎上,FATE能為開發者提供更多樣化的多方安全計算協議支持。開發者們可根據自身算法的特點,自由選擇適合自身算法的多方安全計算協議,聯邦學習的可應用范圍得到進一步拓展。值得說明的是,在縱向皮爾遜特征相關性計算算法實現中,首次使用了SPDZ協議。

此外,算法性能優化方面, 新版本也首次引入二階優化算法,提出了縱向SQN算法,并成功應用在縱向廣義線性模型中,對算法性能有顯著提升。特征分箱和特征選擇新增對多方host聯邦建模的支持,開始全方位的支持多host場景。

FATE-Board:兩大可視化支持,實用性再提升

自1.0版本推出FATE-Board以來,這一產品受到了開發者廣泛好評。而在1.2版本中,FATE也對FATE-Board再次進行了提升,新增了對聯邦模式下特征相關性,以及LocalBaseline組件的可視化支持。前者能夠直觀地分析特征之間的相關性分布情況,從而幫助開發者快速進行判斷與特征選擇。而后者則可以讓開發者將基于聯邦訓練的模型與基于sklearn訓練的模型結果進行直接對比,并從可視化報告對比中得出相關結論。

此外,這一版本的FATE-Board在用戶體驗方面也有了重大的提升,如工作流、模型輸出圖表圖形、評估曲線等,都高度優化了可視化效果及交互操作,并增強了實用性。在使用中相信能讓開發者體驗再上一層樓。

FATE-Flow:FATE數據管理模塊,開啟數據治理之路

在FATE 1.2版本中,FATE新增加了數據管理模塊,這將成為開啟數據治理的第一步。從這一版本開始,在整個Job生命周期產生的數據都有跡可循了。此外,數據管理模塊提供了諸如查詢、刪除等常用管理命令,這也極大地增強了開發者對數據的掌控能力。

總的來說,FATE在1.2這一版本中,開啟了對新領域的進一步拓展。無論是對縱向聯邦深度學習框架,還是多方安全計算SPDZ協議的支持,都是在打磨底層框架,為未來FATE能支持更多應用場景提供一種可能。從這一版本也可以看出,除新功能外,FATE對已有建模組件也在持續不斷地優化和改進,致力于在效率,多樣性和實用性上,為開發者提供更加優質的服務體驗。

聲明: 本文系OFweek根據授權轉載自其它媒體或授權刊載,目的在于信息傳遞,并不代表本站贊同其觀點和對其真實性負責,如有新聞稿件和圖片作品的內容、版權以及其它問題的,請聯系我們。

發表評論

0條評論,0人參與

請輸入評論內容...

請輸入評論/評論長度6~500個字

您提交的評論過于頻繁,請輸入驗證碼繼續

暫無評論

暫無評論

文章糾錯
x
*文字標題:
*糾錯內容:
聯系郵箱:
*驗 證 碼:

粵公網安備 44030502002758號

牛牛游戏官网 <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <文本链> <文本链> <文本链> <文本链> <文本链> <文本链>