隨著人工智能技術(shù)在金融場(chǎng)景的應(yīng)用不斷深化，數(shù)據(jù)、算法與應(yīng)用層的安全可控問(wèn)題逐漸凸顯。
6月3日，在北京智源大會(huì)“AI安全與產(chǎn)業(yè)治理”論壇上，中國(guó)科學(xué)院院士、清華大學(xué)人工智能研究院院長(zhǎng)張鈸表示，包含知識(shí)、數(shù)據(jù)、算法和算力四個(gè)要素的“第三代人工智能”，為發(fā)展安全、可信、可靠和可擴(kuò)展的AI技術(shù)提供了可能性。
金融業(yè)的AI安全問(wèn)題
對(duì)于金融行業(yè)來(lái)說(shuō)，人工智能的安全問(wèn)題尤其需要警惕。
清華大學(xué)計(jì)算機(jī)系教授、瑞萊智慧首席科學(xué)家朱軍也指出，目前人工智能算法的安全性存在嚴(yán)重不足，為智能技術(shù)的應(yīng)用帶來(lái)較大隱患。
當(dāng)前，金融機(jī)構(gòu)也在大力投入人工智能領(lǐng)域的研發(fā)，在中國(guó)工商銀行軟件開(kāi)發(fā)中心大數(shù)據(jù)與人工智能實(shí)驗(yàn)室副主任黃炳看來(lái)，這背后的一個(gè)重要原因正是普惠金融的發(fā)展。
黃炳指出，現(xiàn)在越來(lái)越多的數(shù)據(jù)通過(guò)線上渠道采集而來(lái)，如何對(duì)數(shù)據(jù)進(jìn)行精準(zhǔn)識(shí)別與分類(lèi)成為重要問(wèn)題。另外，金融業(yè)還面對(duì)算法的可解釋性問(wèn)題。
“長(zhǎng)期以來(lái)，金融機(jī)構(gòu)的風(fēng)控模型就是簡(jiǎn)單的邏輯回歸。而隨著90后、00后步入社會(huì)，如何將海量的數(shù)據(jù)融合從而提供更好的智能金融服務(wù)，這是金融機(jī)構(gòu)需要思考的。”黃炳這樣說(shuō)道。
瑞萊智慧CEO田天對(duì)《華夏時(shí)報(bào)》記者表示，現(xiàn)階段人工智能產(chǎn)業(yè)正經(jīng)歷從高速增長(zhǎng)向高質(zhì)量發(fā)展的轉(zhuǎn)變。人工智能已經(jīng)突破傳統(tǒng)的感知智能階段，進(jìn)入到更加高階的認(rèn)知決策階段，人工智能已開(kāi)始接近一些核心的智能問(wèn)題。
田天指出，金融等更高價(jià)值場(chǎng)景的AI應(yīng)用需求不斷增加，安全性的重要性也大大提升。但由于傳統(tǒng)技術(shù)范式存在天然的算法漏洞和缺陷，導(dǎo)致人工智能在這些場(chǎng)景的應(yīng)用存在局限。
第三代人工智能備受關(guān)注
張鈸指出，人工智能的安全可控問(wèn)題要從技術(shù)層面來(lái)解決。
據(jù)黃炳介紹道，工行在現(xiàn)有人工智能技術(shù)體系基礎(chǔ)上，圍繞“軟硬件運(yùn)營(yíng)環(huán)境可信、數(shù)據(jù)隱私保護(hù)、算法模型安全”三大核心能力建設(shè)出金融領(lǐng)域的人工智能安全可信能力。
他還強(qiáng)調(diào)，AI安全是AI大規(guī)模應(yīng)用的前提和必備條件，同時(shí)AI可信能力必須是全棧且覆蓋模型全生命周期。通過(guò)安全可信技術(shù)的研究和突破，提升規(guī)?；疉I生產(chǎn)部署的安全可信支撐能力，可以增強(qiáng)多方數(shù)據(jù)生產(chǎn)要素的融合能力，為數(shù)字經(jīng)濟(jì)社會(huì)提供更高效率、更低成本、更低門(mén)檻的普惠金融服務(wù)。
關(guān)于AI在金融風(fēng)控中的應(yīng)用，建信金融科技有限公司創(chuàng)新實(shí)驗(yàn)室總經(jīng)理王雪從實(shí)操層面進(jìn)行了詳解。
據(jù)王雪介紹，客戶在銀行申請(qǐng)信用貸款時(shí)首先要進(jìn)行測(cè)額，這一環(huán)節(jié)的難點(diǎn)在于，如何測(cè)度客戶的無(wú)形資產(chǎn)價(jià)值，即預(yù)測(cè)客戶在未來(lái)幾年內(nèi)的個(gè)人資產(chǎn)總量。
建信金科采用包括AI、經(jīng)濟(jì)學(xué)理論、資本理論、認(rèn)知行為理論在內(nèi)的跨學(xué)科方法，利用人工智能的機(jī)器學(xué)習(xí)算法提煉出數(shù)據(jù)驅(qū)動(dòng)的金融素養(yǎng)標(biāo)簽。
另外，在數(shù)據(jù)隱私保護(hù)方面，建信金科還構(gòu)建了企業(yè)級(jí)的隱私保護(hù)平臺(tái)。
關(guān)于人工智能的安全可控，田天認(rèn)為，“安全”是指打造數(shù)據(jù)安全與算法安全兩大核心能力，解決數(shù)據(jù)強(qiáng)依賴帶來(lái)的隱私泄漏與數(shù)據(jù)投毒等隱患，同時(shí)提升算法可靠性。“可控”既指應(yīng)用層面的合規(guī)可控，更指核心技術(shù)的自主可控，以自主可控為根基，通過(guò)理論創(chuàng)新、技術(shù)突破形成核心競(jìng)爭(zhēng)力。
會(huì)上，清華大學(xué)聯(lián)合阿里安全、瑞萊智慧發(fā)布了首個(gè)公平、全面的AI攻防對(duì)抗基準(zhǔn)平臺(tái)，該平臺(tái)可實(shí)現(xiàn)對(duì)AI防御和攻擊算法的自動(dòng)化評(píng)估。
“安全可控是發(fā)展第三代人工智能的核心基準(zhǔn)，也是加快人工智能高質(zhì)量發(fā)展的有力支撐。”田天這樣說(shuō)道。
相關(guān)研究報(bào)告顯示，到2030年全球人工智能市場(chǎng)規(guī)模預(yù)計(jì)將達(dá)到15.7萬(wàn)億美元，約合人民幣104萬(wàn)元。“深度智能”時(shí)代正將加速到來(lái)，人工智能在金融領(lǐng)域的應(yīng)用不斷拓展。
智能金融的未來(lái)充滿想象空間，但要實(shí)現(xiàn)真正的人工智能仍面臨諸多深層挑戰(zhàn)。第三代人工智能通過(guò)釋放“數(shù)據(jù)、知識(shí)、算法、算力”的全新維度，為實(shí)現(xiàn)安全可控的新一代人工智能提供可能，有望重塑金融行業(yè)價(jià)值。
