兩款新平臺：數據安全與算法安全

RealAI在這次發布會上共發布了兩款新品，還是從數據安全和算法安全兩方面入手。 首先是，隱私保護機器學習平臺RealSecure。隱私保護機器學習平臺：從“雕版印刷”到“活字印刷”數據安全主要涉及兩方面：一是要解決隱私保護的問題，二是解決數據所有權的問題。 從實現第三代人工智能的思路出發，企業需要用更好的方法打通數據，保證數據隱私安全前提下最大化的挖掘數據價值。

這個過程中，受保護的、可用不可見的數據交互非常重要。 在很多高價值商業場景，如金融、醫療、交通場景中，有價值的數據常常分散在不同的機構和用戶手中，形成了大大小小的數據孤島，明顯制約了AI能力的提升。 早在2016年，谷歌就提出了聯邦學習的概念，可以實現“數據可用不可見”。 近幾年，在產學研的聯合推動下，國內外諸多科技巨頭，均已開始搭建聯邦學習的研究與應用團隊。 國內也出現聯邦學習、共享智能、知識聯邦、聯邦智能和異步聯邦學習等多個相關研究方向，RealAI所提出隱私保護機器學習與其同屬一類技術范疇，但更強調隱私保護屬性。

不同于傳統機器學習，隱私保護機器學習是分布式、密碼學、人工智能三個領域的結合，這就意味著，企業想要做隱私保護機器學習，之前搭建起來的人工智能團隊、經驗等方法論不能直接拿來復用，需要重新搭建隱私保護機器學習體系下的團隊與方法論。田天表示，重新堆人力將原有機器學習代碼一點點的改寫成聯邦學習代碼，這種方式顯然并不落地，可落地的聯邦學習平臺，必須是與原有機器學習生態一脈相承的。 而“一脈相承”有兩層含義：一是算法的一脈相承，指機器學習算法與隱私保護機器學習算法應是繼承關系，而非完全重構的關系，原有的AI算法積累，可以通過平臺自動實現隱私保護化，實現兩大生態的統一。

二是應用的一脈相承，建模使用上需要符合原有數據科學家的建模流程，交互方式上既能支持UI的業務級一鍵建模，還可以支持以jupyter的形式建模，大幅度提高應用靈活度，讓數據科學家能夠以最熟悉的方式使用聯邦學習。 田天說到，數據科學家還是數據科學家，本地怎么建模、隱私保護就怎樣建模，分布式、加密的工作全部一鍵自動完成。

這也是RealAI推出隱私保護機器學習平臺RealSecure（RSC）的兩點考慮， 據《醫健AI掘金志》了解，這款平臺是業內首款隱私保護AI編譯器。 以底層數據流圖的視角揭示機器學習算法與對應分布式隱私保護機器學習算法的聯系，通過“算子”組合將兩端的生態打通，解決企業搭建隱私保護生態面臨著的性能差、易用性差、黑盒協議等諸多難題。如何理解這里定位的“編譯器”？田天解釋道，在與傳統處理方式相比，RSC能夠將機器學習算法一鍵編譯成隱私保護機器學習算法。

“如果說此前的改寫方式像‘雕版印刷’一樣，RSC則實現了‘活字印刷’，將模型代碼解構到‘算子’級別，通過算子的靈活組合來適配各種各樣的機器學習算法，擺脫重復改寫的繁瑣工作，實現靈活‘制版’?！?據《醫健AI掘金志》了解，在底層編譯的加持，以及融合密碼技術與算法的優化，RSC能夠實現性能的大幅提升。 比如，在某實際風控場景中，RSC模型訓練相比某主流國產開源框架性能提升40倍，耗時從4小時40分鐘縮減至6分鐘。

人工智能安全平臺：AI算法的“殺毒軟件”現在，AI應用隨處可見。目前市面上的手機均不同程度地配備了人臉識別方案；在公共場所，地方政府也已經部署了人臉識別攝像頭，用于嫌疑犯追蹤。 最出名的莫過于“張學友的演唱會”，在2018年，張學友演唱會上就累計拿下了近80名違法犯罪分子。 但是，隨著人工智能規模化應用加速，其面臨的安全風險也日益凸顯出來。

去年，RealAI就實現了通過一副印有特殊紋理圖案的眼鏡，解鎖了他人的手機；針對安防監控的場景，通過穿上印有特殊紋理圖案的衣服，就能逃過人體檢測算法實現隱身。 田天表示，目前，最廣泛使用的深度學習技術，是通過查看數據集中許多的示例進行學習從而建立出模型的。與人類不同，深度學習模型沒有可以利用的基礎知識，它們的全部知識完全取決于訓練的數據。

當數據集中的數據被攻擊者有意的操縱，植入秘密的后門時，模型就會學習到后門中的特征，比如圖片中的向日葵。那么在實際運行中時，這個向日葵就會觸發模型出錯。 解決人工智能安全問題的核心，在于理解為什么人工智能模型學習的模式如此脆弱。 然而，對于廣泛使用的最新機器學習算法（例如深度神經網絡）是如何學習和工作的，人們了解得很少，即使在今天，它們仍然在許多方面仍是黑盒的。

因此，RealAI推出了首個針對人工智能模型的“殺毒軟件”和“防火墻”——RealSafe平臺，一方面能夠對模型的安全性進行全面檢測，另一方面提供多種增強安全性的方案。在本次發布會上，RealSafe平臺迎來2.0升級，在模型安全性檢測方面，能針對對抗樣本攻擊，給出安全評分以及將檢測場景從人臉識別拓展到了目標檢測、圖像分類外。 此外，RealSafe 2.0還增加了模型后門檢測功能，能夠在不獲取模型結構及參數等具體信息的情況下，分辨出僅在特定輸入情況才會識別出錯平時表現正常的被植入后門的模型。 除了能夠對安全性檢測以外，平臺也提供了安全性提升方案。

通過內置的對抗樣本去噪方法，可以幫助用戶在人工智能應用中，破壞掉攻擊者惡意添加的圖像噪聲，使模型能夠正常運作。

通過內置的對抗樣本檢測方法，可以幫助用戶檢測輸入數據是否存在惡意添加的圖像噪聲，避免其進入人工智能系統的業務流程。

通過提供平臺自動化生成的、能夠使被測模型出錯的對抗樣本，幫助用戶進行對抗訓練，訓練出更加魯棒的算法模型。

目前，RealSafe平臺已在工信部重大建設項目以及某電網公司落地應用。 RealAI產品副總裁唐家渝表示，未來還將在RealSafe平臺中集成更多安全風險的檢測能力，包括數據逆向還原風險、成員推理風險、模型竊取等安全風險。

雖然，AI算法界的“殺毒軟件”這一說法由RealAI最早提出，但滿足類似功能的產品在市面上也并非獨此一家。 比如，行業內早有一些人工智能對抗技術的工具包，例如foolbox、IBM的ART以及谷歌的CleverHans。 田天認為，這些公司推出的技術，更多還是停留在學術研究階段，還沒有進入到商業應用的階段。 “很多學術機構發布的工具，是一種白盒的算法，如果要商用，要去檢測某款AI系統的安全性，我們不可能要求對方把所有的源代碼都給我們，他們會覺得更不安全?！?br />
因此，人工智能安全平臺在提供檢測方案的時候必須要具備“黑盒”的檢測能力。 據雷鋒網《醫健AI掘金志》了解，RealAI目前在金融、工業、公共服務三大領域中進行布局。田天也向我們表示，這幾大領域都有很好的機會，基本處于同步推進的狀態。但是在落地速度上，金融領域會相對快一些。 這也取決于金融業本身已有的信息化基礎、金融問題的定義更加清晰。

而在工業領域，由于這個行業的改造周期更長，項目推進的周期也更長。 以金融場景為例，風控場景中數據有偏問題尤其突出，如何評估沒有貸后表現的拒絕客群、挖掘其中的優質客戶一向是行業難題。 RealAI利用自研的半監督回撈模型，提高對拒絕客群質量的識別能力，實現撈回客群與原風控放款客群風險一致下，幫助金融機構無成本提升20%的資產規模。

劉荔園也向雷鋒網透露，很多金融機構已經在使用黑盒模型，但是金融機構還是希望在可解釋性上更進一步?！斑@個機會不僅僅是留給第一波吃到螃蟹的人，而是讓更多的用戶能夠更安心、更大面積的使用這些模型?！?田天說到，“短期內，我們需要做出一些效果突出的行業解決方案；長期來看，我們希望逐步把生態體系打造出來，對AI賦能所需要的各方面能力（算法、數據）進行集成，讓解決方案提供商完成一系列AI應用的搭建，這個能體現出我們作為一家平臺型公司的價值?！?/p>

責任編輯：xj

原文標題：瑞萊智慧的“長期主義”：走出清華，給AI產業畫一條新的“增長曲線”

文章出處：【微信公眾號：IoT科技評論】歡迎添加關注！文章轉載請注明出處。