近日,易道博識CyberBot賽博學(xué)習(xí)平臺與趨動科技OrionX?AI算力池化方案經(jīng)過聯(lián)合測試,雙方產(chǎn)品相互兼容,性能良好,測試結(jié)果滿足雙方公司兼容性認(rèn)證的各項標(biāo)準(zhǔn),決定聯(lián)合推廣打包解決方案,共同提供最大客戶價值。
通過測試表明,易道博識CyberBot的AI識別引擎可以在趨動科技OrionX AI算力資源池中正常運行、性能穩(wěn)定,各項業(yè)務(wù)均可使用OrionX vGPU提供的AI算力進(jìn)行圖像識別。
通過OrionX對GPU進(jìn)行的算力池化,CyberBot識別引擎強化了在數(shù)據(jù)中心內(nèi)任意位置部署和按需使用算力資源的能力。同時,CyberBot識別引擎利用顯存超分的功能可以實現(xiàn)對顯卡的分時復(fù)用,提高GPU顯卡的資源使用率。
通過與趨動科技方案的融合,一方面,易道博識架構(gòu)體系的基礎(chǔ)設(shè)施層可以通過OrionX池化方案實現(xiàn)云原生級資源池化管理,提高資源利用率,實現(xiàn)產(chǎn)品異構(gòu)算力部署。另一方面,平臺層通過Gemini連接標(biāo)注平臺、訓(xùn)練平臺及推理平臺,增強了平臺的賦能能力,AI研發(fā)效率得到進(jìn)一步提升,加速了CyberBot應(yīng)用產(chǎn)品迭代。
易道博識與趨動科技共同打造聯(lián)合解決方案,可給客戶帶來以下收益:
1. 釋放更多GPU 算力:GPU卡切分后,依然可以保障OCR業(yè)務(wù)質(zhì)量;?
2. 提升已有GPU利用率:易道博識應(yīng)用可充分利用vGPU提供的顯存超分能力,在客戶OCR 識別業(yè)務(wù)閑時釋放GPU資源,進(jìn)而達(dá)到提高GPU能效的目的;
3. CPU和GPU解耦合:OrionX為CyberBot提供了遠(yuǎn)程調(diào)用GPU能力,提高了應(yīng)用安裝部署的靈活性,同時也為客戶實現(xiàn)了CPU與GPU配置的松耦合;
4. 提升系統(tǒng)平穩(wěn)性:在多Docker掛載一張GPU的場景下,通過GPU算力控制,可有效平抑應(yīng)用在性能方面的波動,有利于客戶對GPU資源的使用評估和資源利用率統(tǒng)計;
5. 性能提升:測試表明采用多Pod分別掛載25%算力的vGPU,可有效提升整體性能,性能提升最高可達(dá) 20%。