数字（zì）时代是（shì）人工智能（AI）深度应用和（hé）发展的时（shí）代（dài）。AI的发展，正（zhèng）在以一日千里（lǐ）的速度（dù）改变（biàn）着（zhe）这个世界，并在交通、医疗（liáo）、环境保护、城（chéng）市管理等多（duō）个领域中，发（fā）挥着越（yuè）来越不可替（tì）代的（de）作用。但（dàn）同时，AI的安全性问题，也（yě）成（chéng）为（wéi）了数（shù）字（zì）化发展进程（chéng）中不可（kě）回避的问题。在数字经济欣欣向荣的发展态（tài）势下，安（ān）全被许多业（yè）内人士视（shì）为木桶上（shàng）的那一块“短板”。

如何让（ràng）安全为数字化发展“保驾护航”？8月6日（rì），2021新京报（bào）贝壳财经夏季（jì）峰会——数字（zì）经济时代（dài）的风险防控线（xiàn）上论坛举行，蚂蚁（yǐ）集团副总（zǒng）裁，蚂蚁集团安全事业（yè）群总裁赵闻飙表示，可信人（rén）工（gōng）智能的研究和落（luò）地或是抵御“数字化”风险的关（guān）键能力。

用（yòng）可信AI解（jiě）决智能化风险（xiǎn）

伴随着数字（zì）化经济的发展（zhǎn），用（yòng）户在享受数字化（huà）带来的便捷与普惠（huì）的同（tóng）时，也面临数字化（huà）背后的风险，如（rú）羊（yáng）毛党（dǎng）通过操纵多（duō）账（zhàng）户套取商户营销资金、个人用户遭遇网络欺诈、账户（hù）盗（dào）用等。“过去，我们一（yī）直重点谈的是‘数字（zì）化’背后（hòu）的（de）风（fēng）险（xiǎn）和应对（duì），而对‘智能化（huà）’背后的（de）风（fēng）险讲得很少。因为当时行业普（pǔ）遍（biàn）认为，人（rén）工智能技术的落地应用（yòng）还相对有（yǒu）限（xiàn）。但事实上（shàng），早在（zài）六七年前，我（wǒ）们就在（zài）平常应对黑产攻击中，发（fā）现（xiàn）了AI的痕（hén）迹。”赵闻飙表示。

新京（jīng）报贝壳财经记者（zhě）注意到，当下的确有（yǒu）越来（lái）越多（duō）的黑（hēi）灰产团（tuán）伙将AI等（děng）新技术投（tóu）入到了薅羊毛、诈（zhà）骗等（děng）非法（fǎ）活动中。如使用AI工具操控大量账（zhàng）号进行违规操作、使用AI换（huàn）脸技（jì）术试图绕过人脸（liǎn）识别认证等。

这（zhè）意味着伴（bàn）随人工智能技（jì）术的（de）高速发展和加持，数字化背后（hòu）的风险将持续加剧，并且（qiě）演变为“智能化”背后的风险挑（tiāo）战。

据了解，目（mù）前黑产作案越（yuè）来越趋于多（duō）平台、多（duō）链路、团队化和智（zhì）能化。这对行（háng）业协同、风（fēng）险响应机制（zhì）的速度和准确性提（tí）出（chū）了更高的要求，而且还需要切合“数字（zì）化浪潮”下社会对（duì）于隐私保护、技术伦理治理等（děng）多方面的需求。

在赵（zhào）闻飙看（kàn）来，要对抗“智能化”的风险，就（jiù）需要“智能化（huà）”的手段，这（zhè）也是“可（kě）信AI”技术进入快（kuài）速（sù）发展（zhǎn）阶段的核心（xīn）驱动力。可信AI技术（shù）要求人（rén）工智能技（jì）术应当具备可解（jiě）释（shì）性，以（yǐ）帮助人类理解（jiě）和信赖他们的（de）决策（cè）；具备（bèi）鲁棒性（xìng）（robustness），以抵御黑产的攻击（jī），以保障计（jì）算和决（jué）策的稳定性（xìng）和效（xiào）能；具（jù）备（bèi）隐（yǐn）私（sī）保护的能力，以满（mǎn）足社会和民众对于（yú）个（gè）人数（shù）据（jù）资产保护的需求；具备公平（píng）性，强调决策结果的公平（píng）性，同时关注技术背后的社会责任和伦理治（zhì）理。

“数字（zì）时代，安（ān）全是AI与AI的博弈，而（ér）可信（xìn）AI，则（zé）是抵御风险的（de）关键能（néng）力（lì）。”

面向可信AI技术的下一代（dài）风控（kòng）体系“IMAGE”

据了解，蚂蚁集团自2015年（nián）起投入可信AI技术的研究。2016年，全（quán）面启动了人工智能风控防（fáng）御战略。目前，可信AI技术已（yǐ）在（zài）包括反欺诈、反（fǎn）洗钱、反盗用、企（qǐ）业联合风控、数据隐私保护在内的多个风控场景下落（luò）地（dì），支撑（chēng）着其全风险域的防御需求。根（gēn）据今年6月全球（qiú）专利权威机构IPR Daily发（fā）布（bù）的报告，蚂蚁集团目前（qián）拥有全球范围内数量最多的“AI安（ān）全可信关键技术”专利，并上线部署（shǔ）了以“IMAGE”命（mìng）名的下一代风控体系。它（tā）包含（hán）着“交互式风（fēng）控”、“多方安全（quán）风控”、“智能决策”、“全图风控（kòng）”、“端云协同（tóng）风控”五大组成（chéng）部（bù）分。

赵闻飙表（biǎo）示，“全图风控”技（jì）术能（néng）够以“图”的（de）形态，聚合“动态发展变化的风险信息”，解决了传（chuán）统风控中只能依靠单一（yī）或静态信息维（wéi）度追踪风险的（de）困境，实现对风险变化趋（qū）势的预测，提前遏制风险的发生。在反电（diàn）诈（zhà）等（děng）风控场景（jǐng），对于打击团伙型、多链路作案，具有重要意（yì）义。而（ér）“全图式”的风险分析和（hé）追踪形式（shì），也对人工智能的“可（kě）解释性”发展提供了（le）更广泛的空间（jiān）。

而（ér）“多方（fāng）安全风控”和“端云协同风控（kòng）”则是“智（zhì）能化”趋势（shì）下（xià），实（shí）现风控与隐私（sī）保护平衡（héng）发（fā）展的实践探索。“多方安全风控”实现了在数据不交换的（de）前提下，多企（qǐ）业、多（duō）平（píng）台之间的联合风控协作（zuò）。“端云协同风控”的价（jià）值（zhí）则是保（bǎo）障数据的使用和保有权真（zhēn）正属于用（yòng）户。通过将风控模（mó）型部署在智能终端，如手机上，蚂蚁的技术团队建立起（qǐ）了一套“终端进行数（shù）据计（jì）算和决策、云端仅获取决（jué）策结果”的风控模式（shì）。终端计算（suàn），意味着敏感（gǎn）信息被保留在用户手中（zhōng），规避了信息传输过程中可能出现（xiàn）的被（bèi）攻击风险。云端仅获取决策，不仅保障（zhàng）了（le）安全防御和风（fēng）险控（kòng）制不（bú）受（shòu）影响，还节约了云端的计算资源。目前，“端云协（xié）同（tóng）风（fēng）控”已经被广泛用于支付宝的（de）日（rì）常风控中（zhōng），在去年的双十一期间，98%的风控决策都是在用（yòng）户智（zhì）能终端上完成的。

赵闻飙在分享中强调，传（chuán）统风控（kòng）受制于技术成（chéng）本、数据规（guī）模（mó）和算法效能，许多场景（jǐng）还是（shì）专家经验（yàn）驱动，而不是（shì）数据智能驱动。“支（zhī）付宝每天有数亿（yì）笔（bǐ）交易，面对如此庞（páng）大的（de）计算量，一（yī）旦决策产生延迟（chí），就给了黑产可（kě）乘之机。” 通过人工智能与（yǔ）金融风控的深（shēn）度（dù）融合，蚂蚁安全实（shí）验室（shì）打造了（le）能够实现“智能决策”的AI大脑——AlphaRisk。其能够在零（líng）人工干预的全（quán）自动模式下，对风（fēng）险进（jìn）行毫秒级的响应。但更重要的是——AlphaRisk具备的自学习、自适应的能力，将极大地提升人（rén）工（gōng）智能的抗打（dǎ）击能力。AI大（dà）脑通过对每一次黑（hēi）产（chǎn）攻击行为的学习和研究，不断提升防（fáng）御手（shǒu）段（duàn），进行高效的（de）自我（wǒ）进化。

在技术快速发展的（de）同时（shí），可信AI的公平（píng）性（xìng）也考验着研（yán）究者对（duì）社会责任的坚守。赵闻飙（biāo）提到，早在2016年，蚂蚁就（jiù）成（chéng）立了针对电（diàn）信（xìn）网络诈骗的技术研究小组，借助（zhù）包（bāo）括“图神经网络”“博弈攻（gōng）防”在（zài）内的一系列（liè）创新技术（shù）应用，极（jí）大地遏（è）制了（le）平台电诈发（fā）生率。但（dàn）许多骗子引导受害人转而使（shǐ）用其他的支付渠道，社（shè）会欺诈问题仍旧严峻。如何依靠技术力量，真正将诈骗（piàn）罪案止步于支付（fù）环节，成为（wéi）研究的重（chóng）点（diǎn），“交互式风控”也因此应（yīng）运而生。

贝壳财经记者注意到，区（qū）别于以（yǐ）往的安全风控模式（shì），交互（hù）式主动风控的关键（jiàn）在于“主动（dòng）”二（èr）字——传统的安全（quán）往往依赖于已知（zhī）风（fēng）险模式（shì），只有风险（xiǎn）发生过，才知道如何预防，这也使得安全风控（kòng）往往处于“被动防守”的态（tài）势。

对此，赵闻飙表示，安全（quán）必（bì）须从静态的被动防守，转变为动态的主（zhǔ）动对（duì）抗，特别是金融安全。“以交（jiāo）互式（shì）风控产品‘叫醒热（rè）线’为例（lì），当用户（hù）被骗子（zǐ）诱导转账时，AI机器人将向用户发出来电提醒。充分学习了欺诈罪案分析的AI机器人，能够捕捉（zhuō）用户交流中的关键（jiàn）信（xìn）息，采取恰当有（yǒu）效的反诈劝阻话术和（hé）措施（shī）。为了（le）跟骗子拼速度，目前蚂蚁的反诈骗叫醒热线中，有超9成电话（huà）是由（yóu）AI打出的，叫醒成功率超过了人（rén）工客服。除了事中（zhōng）的（de）防（fáng）护，如果用户（hù）深度受骗、执意支付，技术人员还开（kāi）发了‘延迟（chí）到账’和‘资金截留’的功能，让欺（qī）诈者没有办法支取赃款。”

“人（rén）工智（zhì）能技术的快速发展（zhǎn），引领了第（dì）四次工（gōng）业革命（mìng）的（de）浪潮。而可信人（rén）工智能的研究和落地，则（zé）代表了人（rén）工（gōng）智能（néng）技术发展的新（xīn）阶段。在未来，与人类社会（huì）深度耦合的人工智（zhì）能技术，如何在安全、可信（xìn）、公平的原则下，持（chí）续发展和（hé）进步？这是每一位从业者和研（yán）究者，为推（tuī）动科（kē）技有序、健康发展都不应（yīng）回避的命题。”赵（zhào）闻飙表示。