信也科技9?模型管理平臺(tái)：以AI技術(shù)助力行業(yè)集成創(chuàng)新

　 阿里云優(yōu)惠券 先領(lǐng)券再下單

近日，信也科技(NYSE:FINV)推出的9¾模型管理平臺(tái)在信也科技開(kāi)放日上首次亮相。9¾平臺(tái)能夠提供一站式人工智能模型服務(wù)，它以AI技術(shù)服務(wù)集團(tuán)業(yè)務(wù)全鏈路，助力金融科技行業(yè)集成創(chuàng)新。

據(jù)了解，9¾平臺(tái)的名稱靈感來(lái)源于哈利·波特系列中的9¾站臺(tái)，該站臺(tái)可以通往魔法學(xué)院開(kāi)啟奇妙世界，而信也科技的9¾平臺(tái)，則是通過(guò)人工智能技術(shù)支持集團(tuán)科技業(yè)務(wù)，并為合作伙伴賦能。

為眾人所熟知的是，人工智能發(fā)展數(shù)載，它潛移默化地影響著人們的生活，在越來(lái)越多的領(lǐng)域發(fā)揮著舉足輕重的作用。無(wú)論是行業(yè)巨頭還是新興企業(yè)，均在人工智能領(lǐng)域發(fā)力，力圖將此技術(shù)推廣到更多的應(yīng)用場(chǎng)景。

9¾ 模型管理 平臺(tái)：我從哪里來(lái)？

AI模型訓(xùn)練平臺(tái)，基于核心模塊和應(yīng)用場(chǎng)景的不同，又可以稱為深度學(xué)習(xí)平臺(tái)、機(jī)器學(xué)習(xí)平臺(tái)、人工智能平臺(tái)。用戶在AI平臺(tái)能夠使用不同的機(jī)器學(xué)習(xí)框架進(jìn)行大規(guī)模的訓(xùn)練，對(duì)數(shù)據(jù)集與模型進(jìn)行管理和迭代，同時(shí)通過(guò)API與本地部署等方式接入到具體業(yè)務(wù)場(chǎng)景中使用。

簡(jiǎn)單地說(shuō)，AI平臺(tái)=AI FAAS+(PAAS)+(IAAS)。業(yè)界不乏優(yōu)秀的機(jī)器學(xué)習(xí)平臺(tái)，如微軟的Azure、亞馬遜的AWS Machine Learning、阿里的PAI平臺(tái)、百度的Paddle以及騰訊的TI平臺(tái)。一般的平臺(tái)產(chǎn)品基于基礎(chǔ)的機(jī)器學(xué)習(xí)和深度學(xué)習(xí)計(jì)算框架進(jìn)行二次開(kāi)發(fā)，提供一站式的生態(tài)化服務(wù)，為用戶提供從模型訓(xùn)練、模型評(píng)估、模型在線預(yù)測(cè)的全流程開(kāi)發(fā)和部署支持，以期降低算法專家在工程化時(shí)的使用門(mén)檻。

9¾ 模型管理 平臺(tái) ： 我的解決方案

AI平臺(tái)在搭建與落地的過(guò)程中，均會(huì)遇到機(jī)器學(xué)習(xí)門(mén)檻高、落地慢、實(shí)施周期長(zhǎng)等問(wèn)題。結(jié)合日常工作流程中遇到的問(wèn)題，9¾平臺(tái)提供了一系列的解決方案，以解決模型落地上的一系列難題。具體問(wèn)題如下：

1、模型環(huán)境構(gòu)建難，從模型到服務(wù)轉(zhuǎn)化慢。2、多個(gè)模型共用一套環(huán)境，但模型需要獨(dú)立更新，對(duì)環(huán)境的維護(hù)需格外謹(jǐn)慎，變更風(fēng)險(xiǎn)巨大。3、模型服務(wù)交付周期長(zhǎng)，工程環(huán)節(jié)耗時(shí)長(zhǎng)，人力投入大。4、模型服務(wù)回退慢，模型發(fā)布后，如發(fā)現(xiàn)有問(wèn)題嘗試退回到上一個(gè)版本需要數(shù)分鐘，乃至數(shù)小時(shí)。5、模型服務(wù)擴(kuò)容慢，面對(duì)突發(fā)流量時(shí)，響應(yīng)延遲。

針對(duì)以上難題，9¾平臺(tái)可提供詳盡的解決方案，具體體現(xiàn)在以下五方面：

1、模型環(huán)境標(biāo)準(zhǔn)化描述，提供一套簡(jiǎn)單、統(tǒng)一、覆蓋廣的規(guī)范來(lái)定義模型環(huán)境，加快流程。2、將統(tǒng)一標(biāo)準(zhǔn)描述下的模型環(huán)境鏡像化，支持模型容器化運(yùn)行，提供模型環(huán)境隔離和模型運(yùn)營(yíng)隔離。3、工程環(huán)節(jié)代碼采用自動(dòng)生成技術(shù)，實(shí)現(xiàn)人力零投入，降低邊際成本。4、模型發(fā)布環(huán)節(jié)采用藍(lán)綠發(fā)布與金絲雀發(fā)布，提供操作簡(jiǎn)單的快速版本切換與流量切分。5、利用使用率、飽和度指標(biāo)配合彈性伸縮算法，提供秒級(jí)的擴(kuò)容，快速響應(yīng)突發(fā)流量。

9¾ 模型管理 平臺(tái)：我的架構(gòu)設(shè)計(jì)

根據(jù)企業(yè)不同的規(guī)模、資源及業(yè)務(wù)場(chǎng)景，AI平臺(tái)往往有不一樣的定位。例如AI和數(shù)據(jù)可同為一個(gè)中臺(tái)、AI平臺(tái)可視為業(yè)務(wù)中臺(tái)的一部分、AI平臺(tái)整合進(jìn)技術(shù)中臺(tái)或后臺(tái)等。規(guī)模較小、資源有限的企業(yè)通常會(huì)選擇使用第三方AI平臺(tái)對(duì)業(yè)務(wù)進(jìn)行服務(wù)，而非自建AI平臺(tái)。但信也科技已有數(shù)據(jù)中臺(tái)，因此信也科技的AI平臺(tái)更多承擔(dān)的是作為業(yè)務(wù)前臺(tái)的模型算法供給角色，在數(shù)據(jù)中臺(tái)的支持下，起到承載業(yè)務(wù)，對(duì)接數(shù)據(jù)與技術(shù)底層的作用。

9¾平臺(tái)的架構(gòu)設(shè)計(jì)

時(shí)下主流的AI平臺(tái)有兩種產(chǎn)品形態(tài)：一種是趨向AutoML，主要為非算法專家提供的可視化訓(xùn)練平臺(tái)，通過(guò)拖拽、拉取等方式完成模型設(shè)計(jì)和訓(xùn)練中的組件排布，完成模型構(gòu)建，例如Azure;另一種是為專業(yè)人士提供的模型設(shè)計(jì)和訓(xùn)練工具，將模型訓(xùn)練和管理通過(guò)工程化平臺(tái)進(jìn)行集成管理。也有集成兩種方式的AI平臺(tái)，例如阿里的PAI，為各種層次的人工智能工作者與愛(ài)好者提供不同專業(yè)程度的工具。

信也科技對(duì)AI平臺(tái)的定位是能夠快速解決問(wèn)題、提高能效。因此，信也科技優(yōu)先選擇為算法和模型運(yùn)維工程師提供針對(duì)模型生命周期管理的解決方案。

9¾平臺(tái)加速了模型生成和服務(wù)化，可提供一整套從模型管理、模型訓(xùn)練到模型部署、模型監(jiān)控的全生命周期解決方案。它不僅可幫助算法專家解決訓(xùn)練環(huán)境與訓(xùn)練過(guò)程中的保存管理問(wèn)題，還可幫助解決在模型部署和上線時(shí)的各種問(wèn)題，并提供線上部署模型的監(jiān)控服務(wù)。

目前9¾模型管理平臺(tái)已部署各類模型數(shù)百個(gè)，實(shí)現(xiàn)模型日服務(wù)量超過(guò)1000萬(wàn);可在秒級(jí)內(nèi)獲取合適資源;能自動(dòng)使用CPU、GPU資源，實(shí)現(xiàn)自動(dòng)擴(kuò)容，性能提升60%;模型上線僅需1分鐘，大大節(jié)約了部署時(shí)間。

9¾平臺(tái)的 模型訓(xùn)練與線上服務(wù)

此外，9¾平臺(tái)為模型訓(xùn)練提供了多套WorkSpace(工作區(qū))容器。一個(gè)WorkSpace中包含多種模型開(kāi)發(fā)時(shí)的工具，包括Jupyter、一些常用的IDE與一個(gè)終端界面。一個(gè)模型從準(zhǔn)備到訓(xùn)練結(jié)束，產(chǎn)出代碼均可在工作區(qū)內(nèi)直接完成，在工作區(qū)內(nèi)可安裝各種依賴、嘗試各種方法，甚至提交代碼至Git，直至算法專家獲得滿意的模型。

針對(duì)模型的部署，信也科技獨(dú)創(chuàng)了“流水線”的概念，模型的發(fā)布流水線只需4個(gè)步驟，一般發(fā)布一個(gè)模型不超過(guò)5分鐘。

針對(duì)無(wú)需在實(shí)時(shí)場(chǎng)景下執(zhí)行、或無(wú)法在實(shí)時(shí)調(diào)用場(chǎng)景下執(zhí)行的耗時(shí)較久的模型，9¾提供了發(fā)布為Job任務(wù)的部署方式，用戶可通過(guò)Job任務(wù)執(zhí)行回溯任務(wù)或更新訓(xùn)練數(shù)據(jù)，整個(gè)過(guò)程非常游刃有余。

模型的代碼和內(nèi)部邏輯將作為一個(gè)黑盒，被打包為一個(gè)docker鏡像，因此模型無(wú)論以何種方式發(fā)布，發(fā)布在何種環(huán)境內(nèi)，都是絕對(duì)安全可靠的。通過(guò)管理模塊與實(shí)際的服務(wù)模塊，用戶能夠完成AI項(xiàng)目的管理和API、Job、鏡像APP等上層應(yīng)用的產(chǎn)出，整個(gè)過(guò)程無(wú)需任何運(yùn)維人員、工程人員的干預(yù)，算法專家即可獨(dú)立操作完成。

9¾平臺(tái)的 模型管理模塊

9¾ 模型管理 平臺(tái)： 未來(lái)，我去往何方？

信也科技于12月17日成功舉辦首屆科技開(kāi)放日，并于當(dāng)日首次揭秘了自身的科技全景圖，用圖譜的形式直觀展示了大數(shù)據(jù)、人工智能、智能決策產(chǎn)品等硬核科研成果。目前9¾平臺(tái)可支持信也科技所有科技業(yè)務(wù)，覆蓋多個(gè)業(yè)務(wù)場(chǎng)景，同時(shí)支持多家外部合作伙伴。未來(lái)，信也科技的人工智能平臺(tái)將在增強(qiáng)模型評(píng)估功能、在線預(yù)測(cè)平臺(tái)化、支持分布式訓(xùn)練等方面持續(xù)深入探索。

信也科技全景圖

9¾平臺(tái)的成功發(fā)布將進(jìn)一步促進(jìn)人工智能技術(shù)的研發(fā)落地，加強(qiáng)科研成果的轉(zhuǎn)化與輸出。信也科技也將通過(guò)不斷的科技創(chuàng)新，深度參與科技賦能，與合作伙伴共謀發(fā)展，助力金融科技行業(yè)創(chuàng)新，使人工智能成為企業(yè)發(fā)展的重要推動(dòng)力，讓科技更好地服務(wù)人類社會(huì)。

申請(qǐng)創(chuàng)業(yè)報(bào)道，分享創(chuàng)業(yè)好點(diǎn)子。點(diǎn)擊此處，共同探討創(chuàng)業(yè)新機(jī)遇！