在預訓練大模型催生的人工智能浪潮下,數(shù)據(jù)已經(jīng)成為各行各業(yè)不可或缺的新型生產(chǎn)要素,同時也面臨著一系列棘手挑戰(zhàn):既要保護數(shù)據(jù)安全,又要利用數(shù)據(jù)創(chuàng)造經(jīng)濟效益。

　　讓數(shù)據(jù)可用不可見的“隱私計算”,由此被越來越頻繁地提及。有人打了一個形象的比喻:隱私計算就像是一個黑箱,人們不需要看到黑箱內是如何運作的,卻可以得到想要運算結果,可以說是“魚與熊掌”兼得的最優(yōu)解。

　　在大廠扎堆的隱私計算賽道中,有一個“黑馬”級的創(chuàng)新團隊——沖量在線,成立僅三年多時間就躋身國內隱私計算第一梯隊,并頻頻在人工智能應用落地有關的重量級比賽中嶄露頭角。

　　首創(chuàng)隱私計算與海光異構加速卡結合,性能比肩國際主流產(chǎn)品

　　可能不少人對“沖量在線”這個名字還有些陌生,卻是隱私計算賽道中名符其實的實力派選手。

　　2022年6月,沖量在線與中科海光聯(lián)合推出了全國產(chǎn)化的異構加速隱私計算一體機,將適用于CPU芯片上的CSV技術與海光芯片異構加速芯片直通,利用GPU資源加速TEE中的隱私計算。和市場上的其他可信方案相比,沖量在線的異構加速隱私計算一體機表現(xiàn)出了多方面的優(yōu)勢:

　　第一,在整個機器學習的訓練和推理過程中,數(shù)據(jù)無需落盤,保證數(shù)據(jù)不存在隱私泄露的困擾;

　　第二,基于海光異構加速卡,保證上層基于深度學習框架上的AI應用和隱私計算算法不需要修改;

　　第三,攜手海光,實現(xiàn)底層核心的自主、安全,達成了端到端的軟硬件全國產(chǎn)化。

　　目前,沖量在線基于海光的異構加速機密計算產(chǎn)品已經(jīng)在中國電信和浦發(fā)銀行的項目中落地,安全性能可以比肩國際主流產(chǎn)品,是國內首個基于GPU的TEE方案,可同時滿足大規(guī)模數(shù)據(jù)訓練推理的高性能和安全需求。

　　打通隱私計算 “ 最后一公里 ” ,需要產(chǎn)業(yè)鏈互促共贏

　　在沖量在線的異構加速隱私計算一體機方案中,“AI安全開放平臺”是一個不可或缺的模塊,用于實現(xiàn)AI安全對外共享服務的場景,也就是現(xiàn)在很流行的可信MaaS平臺(Model as a Service)。

　　而沖量在線“AI安全開放平臺”的誕生契機,則是第二屆光合組織解決方案大賽。通過大賽這一平臺,沖量在線加深與了海光的合作。在經(jīng)歷了長達7個月的研發(fā)“急行軍“后,雙方聯(lián)合推出了“沖量AI安全開放平臺”。該平臺為政務、金融、算力中心等領域提供安全可靠的AI服務。

　　銀行等金融機構通過“AI安全開放平臺”,將成熟應用的AI能力(OCR能力、NLP能力等) 向第三方輸出,無需修改AI應用和隱私計算算法,就能對外提供隱私計算AI SaaS服務。這不僅可以保證第三方提交的合同、數(shù)據(jù)等信息的安全,也能保證銀行AI算法的安全性,在全面可控的隱私計算機制下實現(xiàn)數(shù)據(jù)資產(chǎn)的價值變現(xiàn)。

　　沖量在線合伙人、解決方案總經(jīng)理黃淼介紹:“在整個比賽過程中,光合組織給予了非常多的資源支持。比如一些深度學習框架,框架的開發(fā)者并未對國產(chǎn)芯片進行適配。比賽過程中,我們向海光提出了大量優(yōu)化和適配需求,對方基本在一個禮拜內就能解決,可以明顯感受到國產(chǎn)軟硬件生態(tài)的持續(xù)改善。”

　　而國產(chǎn)生態(tài)的改善,帶來的直接結果就是業(yè)務量的激增。黃淼介紹,在某銀行AI SaaS服務的安全能力技術提升的項目招標中,參與投標的企業(yè)不乏一些知名的金融科技和AI公司,但最終中標的是沖量在線的產(chǎn)品和方案。因為沖量在線對業(yè)務的理解更加深刻,譬如如何將模型在國產(chǎn)芯片上運行和優(yōu)化,對外應該提供什么樣的接口,怎么和客戶的業(yè)務系統(tǒng)進行集成等。

　　光合組織的第三屆解決方案大賽已經(jīng)啟動。大賽設置了集智計劃(人工智能)、桃李計劃(教育信息化)、堡壘計劃(安全技術應用)三大細分賽道,優(yōu)勝者將贏取超過1000萬的資金及資源,參賽者將獲得專屬技術指導、產(chǎn)業(yè)資源對接、品牌推廣助力等多維度支持。