近期，《國務(wù)院關(guān)于深入實(shí)施“人工智能+”行動(dòng)的意見》正式發(fā)布，上海也明確提出，要在三到五年內(nèi)建成具有全球影響力的金融科技中心，正以開放姿態(tài)打造AI與金融結(jié)合的“試驗(yàn)田”和“示范區(qū)”。

那么，在“AI+金融”場景密集落地的當(dāng)下，監(jiān)管如何既設(shè)“邊界”又裝“導(dǎo)航”？9月10日，由上海交通大學(xué)上海高級(jí)金融學(xué)院主辦的“AI落地金融之路”——“2025 Inclusion·外灘大會(huì)”見解論壇召開，探索技術(shù)創(chuàng)新與風(fēng)險(xiǎn)管控平衡之道，以助力構(gòu)建AI金融生態(tài)。

在圓桌討論中，華東政法大學(xué)國際金融法律學(xué)院教授徐明指出，AI作為新事物，當(dāng)前主要面臨“問題新、風(fēng)險(xiǎn)大、監(jiān)管難”三大挑戰(zhàn)。

其中，在“監(jiān)管難”方面，徐明認(rèn)為主要體現(xiàn)在三方面。首先，現(xiàn)在的法律制度和監(jiān)管制度還沒有完全跟上，如何設(shè)計(jì)一個(gè)寬嚴(yán)相濟(jì)的法律制度是個(gè)挑戰(zhàn)。其次，AI無所不在，已深入百姓的尋常生活，涉及很多范圍、領(lǐng)域和部門，需要監(jiān)管部門之間彼此協(xié)調(diào)，協(xié)調(diào)存在難度，協(xié)調(diào)也需要成本。最后，AI科技屬性很強(qiáng)、迭代更新很快，涉及大量新的技術(shù)和新的知識(shí)，監(jiān)管者是否能及時(shí)跟進(jìn)學(xué)習(xí)是監(jiān)管者面臨的難題。

針對這些挑戰(zhàn)，徐明提出，需用綜合手段，在法律、監(jiān)管、技術(shù)等方面統(tǒng)籌應(yīng)對。宏觀上，要抓緊制定人工智能法，加快立法速度，明確責(zé)任主體、明確責(zé)任邊界、嚴(yán)格責(zé)任落實(shí)，實(shí)現(xiàn)寬嚴(yán)相濟(jì)；微觀層面，要細(xì)化各種技術(shù)標(biāo)準(zhǔn)、安全標(biāo)準(zhǔn)、監(jiān)管標(biāo)準(zhǔn)，使人工智能在探索和實(shí)踐中可操作、可執(zhí)行，要發(fā)揮行業(yè)、監(jiān)管及相關(guān)部門的力量，主動(dòng)應(yīng)對人工智能帶來的挑戰(zhàn)。

聯(lián)和金融人工智能業(yè)務(wù)負(fù)責(zé)人、杭州海茵斯科技創(chuàng)始人聶金則梳理了AI在金融業(yè)的四大核心監(jiān)管問題。

一是數(shù)據(jù)隱含歧視風(fēng)險(xiǎn)。AI做決策是由數(shù)據(jù)驅(qū)動(dòng)，但數(shù)據(jù)中如果純數(shù)據(jù)有可能會(huì)隱含一些歧視問題，有可能推動(dòng)社會(huì)的不平等，很有可能對公司主體有法律風(fēng)險(xiǎn)。二是AI決策的黑箱難題。2025年各國出臺(tái)的監(jiān)管條例顯示，金融機(jī)構(gòu)一旦開始使用AI模型或AI提供服務(wù)，模型所做出決策的可解釋性必須出具審計(jì)報(bào)告。三是隱私問題。聶金指出，為了增強(qiáng)AI模型的性能，打破數(shù)據(jù)孤島是非常重要的，打破的過程中如果用到很多數(shù)據(jù)，可能會(huì)模糊主體邊界，對用戶信息的隱私保護(hù)有一個(gè)比較大的挑戰(zhàn)，而這個(gè)挑戰(zhàn)如果放到跨國場景里就非常嚴(yán)重，會(huì)上升成安全問題。四是問責(zé)機(jī)制，AI可以作出決策，但這當(dāng)中整個(gè)鏈條從訓(xùn)練、測試到應(yīng)用，應(yīng)該有一個(gè)合理的問責(zé)機(jī)制。

“我覺得監(jiān)管上一是守住底線；二是給予比較好的引導(dǎo)，為AI在金融大規(guī)模承制式應(yīng)用鋪平道路?！贬槍@些挑戰(zhàn)，聶金說道。

恒生電子首席科學(xué)家、研究院院長白碩則從AI落地實(shí)施的實(shí)際問題出發(fā)，探討邊界問題。

“人工智能可以了解你的客戶，了解到比你還了解，它可以做到千人一面，但生成出來的東西最后一道關(guān)還要是人，這種場景是人最后兜底?！卑状T指出，“這個(gè)邊界目前看還要持續(xù)相當(dāng)一段時(shí)間”?！?/p>