本报记者 赵姗

微（wēi）软的创始人比尔·盖（gài）茨（cí）有（yǒu）一句名言：“我们总是高估在一年或者两（liǎng）年中能够做到的（de），而（ér）低估五年或十年（nián）中能够做到的。”这句话用来（lái）理解人工智能的（de）影响是相当合适的（de）。目前，随（suí）着（zhe）人工智能（néng）产业飞（fēi）速发展，催生了新的人机交（jiāo）互模式，核心便是AI大（dà）模型驱动的（de）智能体（tǐ）（AI Agent）（以下简称“AI助手”）。AI助（zhù）手（shǒu）让“人机协同（tóng）”成为新（xīn）常态，个人与（yǔ）企业正在步入AI助手时（shí）代。

然而，伴随（suí）着快（kuài）速发展（zhǎn），一系列问（wèn）题与（yǔ）挑战也随之而来。如何在应对AI助手面临（lín）挑战的同时抓住（zhù）发展（zhǎn）机遇，实（shí）现（xiàn）AI助手的可持续发展和（hé）更广泛应用，成（chéng）为行业需要深入思考和（hé）探讨的重（chóng）点。

数据隐私安全（quán）、伦理（lǐ）和法律等（děng）成为挑战

“AI助手在快速发展的同时（shí），也面临许多挑战（zhàn）和问题。”国（guó）务（wù）院发展研究中心创新发展研究部第（dì）二研究室主（zhǔ）任杨超在（zài）接受中国经济时（shí）报记者采访时表示，在这（zhè）些问题中，最为关（guān）键的还在（zài）于AI助手使用所带来的数（shù）据隐私安全、伦理和法律（lǜ）问题。

杨超认为，从数（shù）据隐私保护来看，由（yóu）于人工智能系统本（běn）身（shēn）需要依赖大量用户（hù）数据进行（háng）训练，必然会导致相（xiàng）关机构将（jiāng）AI助手服（fú）务期间获（huò）取和产生的数据（jù）用（yòng）于AI助手本（běn）身的优化，即使通过删除个性化属性等方式对数据脱敏，数据隐私和安全问（wèn）题也难以（yǐ）完全（quán）避免。尤其（qí）是随着AI助（zhù）手的普及，其训练（liàn）涉及（jí）的数（shù）据量将（jiāng）快速提升，从而进一步放大安全风险。

从伦理和法律角度看，随着AI助手能（néng）力的增强，其自（zì）主性（xìng）和决策能（néng）力必然会显著提升，在部（bù）分应用场景中将会脱离人类的（de）直接（jiē）指令而开（kāi）展自主（zhǔ）行为。这些自主行为一旦产生外部性影响，就将引发伦理和（hé）法律问题。“一个经典的例子是，人工智能自动驾（jià）驶的（de）汽车（chē）在行驶过程中，前（qián）方突然出现行人（rén），改变行驶方向（xiàng）会伤害乘客，不改变方向则会伤害行人。这种情况下无论AI助（zhù）手做出（chū）何种选择都会带来伦理问题（tí）。”杨超说。

清华大（dà）学复杂工程（chéng）系（xì）统（tǒng）实（shí）验室主任、中（zhōng）国人（rén）工智能（néng）学（xué）会智能产品与产业工（gōng）作（zuò）委员会主任任勇在接受中国经济时报记者采（cǎi）访时表示，在当下阶段，AI助手仍（réng）然面临技（jì）术创新（xīn）与场（chǎng）景（jǐng）适配度的挑战（zhàn）。

一是算法的精（jīng）准性（xìng）与可靠性。AI助手的核心——算法需要不断学习和优化（huà）以（yǐ）提高准确（què）性和可（kě）靠性（xìng），然而（ér），面对复杂（zá）多变的用户需求和（hé）场景，当（dāng）前的（de）算法往往难以达到期（qī）待的要求。

二是跨模态学习与环境理（lǐ）解能（néng）力。AI助手（shǒu）当前（qián）的（de）技术水平仍存（cún）在一定的局（jú）限性，难以充（chōng）分理解和整合应（yīng）用时空（kōng）变化的模态信息（xī），对环境信息的多（duō）模（mó）态（tài）感知与理解尚有很大的提升空间。

三是场（chǎng）景理解与适应（yīng）能力。有（yǒu）些场景化需（xū）求超越（yuè）了简单的（de）物理环境（jìng）感知，需要与场景自身的底层逻辑、应用逻辑相（xiàng）结合（hé）才能理（lǐ）解，这对（duì）当下的AI助手而言（yán）是一（yī）个现实挑战。

“此（cǐ）外，AI技术的复杂（zá）性和变化性使得已有（yǒu）法规难以完全覆盖各（gè）种变动（dòng）。当AI助手（shǒu）出（chū）现错（cuò）误或造成损害时，责任追究（jiū）便成了难题。”任勇（yǒng）说（shuō）。

“AI助手面临的挑（tiāo）战还有（yǒu）算法偏见与歧视、过度依赖和成瘾。”清华（huá）大（dà）学人工（gōng）智能国际治理研究院秘书长、欧（ōu）美同学会研究（jiū）院人工智能和数字经济研究中（zhōng）心执（zhí）行主任鲁（lǔ）俊群在接受（shòu）中国（guó）经济时报记者采访时表示（shì）。

鲁俊群（qún）认为，目（mù）前，AI算（suàn）法的训练（liàn）数据还存（cún）在不（bú）完备性和（hé）偏（piān）向性。由于AI训（xùn）练所使（shǐ）用的语料数据本身（shēn）可能客（kè）观上就存在着（zhe）统计学上的一定（dìng）偏差，还有可能存在（zài）开发者（zhě）的个人偏好等，因（yīn）此（cǐ），现阶段的（de）各种AI助手仍有可能存在一定的算法偏见（jiàn）与歧视问题。对此，有必要建立对技术（shù）背后训练数据和（hé）算法（fǎ）的审（shěn）查机制，如通过建立AI伦理（lǐ）委（wěi）员会等（děng）形式加强审（shěn）核。

另外，“假如一（yī）名用户（hù）经常与AI角色互（hù）动来寻求帮助和安慰，容易对其产生情（qíng）感上的依赖，以此来填补（bǔ）情感（gǎn）需求上的空缺，这有可能导（dǎo）致用户沉迷（mí）虚拟世界而忽视现实世界。对此，建议（yì）对（duì）于（yú）AI助手应该使用得当，同时（shí）应该（gāi）注（zhù）意保持（chí）与现（xiàn）实（shí）世界的互动。”鲁（lǔ）俊群说。

未来发展方向：垂直领（lǐng）域专业化、与具身智能（néng）的结合

当前，大模（mó）型进入应用时代，多家（jiā）科技公司都（dōu）展出（chū）了最新AI应用。

“AI助手发展（zhǎn）的方向是多样的，在技术（shù）路线（xiàn）和应用场景的（de）双重（chóng）影响下，将会迎来种类（lèi）繁多（duō）的AI助手。”杨（yáng）超认为，其中，有两个方向是较为确定的。

一是垂直领域专业化。在特定行业或领域，如家（jiā）政、健康、医疗（liáo）、法律、金融等大领域，甚至是制造（zào）业中不同行业等小（xiǎo）领域，AI助手（shǒu）都将具备更深（shēn）入的专业知识和技（jì）能，提供专业服（fú）务。

二是（shì）与具（jù）身智能的（de）结合。随着（zhe）人工智能能力的提升，其提供的服务将不仅是（shì）咨询和智力（lì）服（fú）务，而是通过更（gèng）多的感（gǎn）知和操（cāo）作，为人类提供（gòng）直接与物质（zhì）世界交（jiāo）互（hù）的（de）能力。

任勇（yǒng）认为（wéi），就（jiù）发展方向而言，AI助手在产业场（chǎng）景和个（gè）体场景中的应用虽然都基于人工智能技术，但在（zài）技术路径和响应机理上存（cún）在着显著差异。

AI助手产业场景（jǐng）的技术路径主要是针对特（tè）定需（xū）求，如制造业、物流、医疗、教育等（děng），AI助手通常需要进行定制化开发，以符（fú）合行业的（de）特定需求。利用相应产（chǎn）业所产生的数据，结合（hé）各种机器学习算法，AI助（zhù）手能（néng）够自主学习（xí）和优化，实现智能排班、任务分（fèn）配、数据分析、流程优（yōu）化等高级功能。在此过程中，AI助手往往需要与企业的（de）其他系（xì）统进行集成，如ERP（企业资源计划）、CRM（客户关系管理）等，以实现信息（xī）的共（gòng）享和协（xié）作。通过上述技术路径实现对重复性烦琐任务的自主处理（lǐ）和（hé）数据洞察、科（kē）学决策、降本（běn）增效。

AI助手用于（yú）个（gè）体场景的技术路径主要是利用（yòng）通用智能平台，如智能手机、智能家居设备等，通过语音（yīn）识别（bié）和自然语言（yán）交互、多设备协同来辅助用户完成任务，提升（shēng）日常（cháng）生活的便利性（xìng）和服（fú）务的精准（zhǔn）性。

“在产业场景（jǐng）中，AI助（zhù）手（shǒu）主要关注于提升（shēng）效（xiào）率、优化决策和降低成本（běn），需要更多的（de）定制化开发和集成协作（zuò）；而在个人生（shēng）活场（chǎng）景中，AI助手则更注重于提供便捷化、个性化、适应性（xìng）服务，未来的（de）技术创新只能围绕不同场景下各（gè）自的内生逻（luó）辑（jí）进行迭（dié）代优化（huà）。”任勇说。

鲁俊（jun4）群认为，AI助（zhù）手未（wèi）来可能会向（xiàng）多模态交互（hù）以及具身智（zhì）能方向发展。

“为了（le）实现具身智能，需要将（jiāng）类ChatGPT等这些（xiē）基（jī）础大模（mó）型与进（jìn）化学（xué）习机制相结（jié）合，通（tōng）过与物理（lǐ）世（shì）界交互取得的新数据（而不再是（shì）人类投喂的数（shù）据）来不断学习，并（bìng）适应新（xīn）环境，优化行为策略（luè）。多模态大模型能够整合视觉、听觉、触觉等多种感官数据，提升机器人（rén）的理解能力（lì）。使具身智能机（jī）器人（rén）在与物理（lǐ）世界的互动和理（lǐ）解方面更加（jiā）人性化。这些未来的（de）AI助手机器人可以自（zì）主理（lǐ）解场景、识（shí）别自然语言（yán）指令、规划任务，并执行（háng）操作，将是人（rén）类最得力（lì）的智（zhì）能助理。”鲁俊群说（shuō）。

从创新（xīn）方向引导、应用场景规范方面为AI助手提供支持（chí）保障

当前，AI助手的服务升级（jí）与（yǔ）互联互（hù）通是国内多家互联网科技（jì）公（gōng）司持续探索的重点。

杨（yáng）超建议，第（dì）一，加（jiā）强（qiáng）对（duì）用户隐（yǐn）私和数据安全的保（bǎo）护（hù）。强制性地将用户隐私和数（shù）据安全（quán）作为提（tí）供AI助手服务的前（qián）置条（tiáo）件，引导和鼓励相关机构采用先进（jìn）的数据（jù）加密和匿名化（huà）技术（shù），确保用户数据的安全和隐私（sī）。

第二（èr），增强AI助手决策过程的可解释性，让用户能够理（lǐ）解其（qí）行（háng）为和决策逻（luó）辑（jí），从而提（tí）高用户信任（rèn）度。为整个社会（huì）更好（hǎo）接纳AI助手创造（zào）良好的环境，从而（ér）为在更广阔的应（yīng）用场景中使用AI助手提（tí）供帮助。

第三，加（jiā）强伦理和法规遵从。根据（jù）人工智能技术的进（jìn）步及时（shí）修订相关法律法规，完善对（duì）AI助手进行规（guī）制（zhì）的制度环境，确保（bǎo）AI助手的开发和应用符合伦理标准和法（fǎ）律法规，避免（miǎn）产生（shēng）歧视、偏见等问题（tí）。

“国家政策层面（miàn）应（yīng）该从创新方向（xiàng）引导（dǎo）和应用场（chǎng）景规范两个方（fāng）面（miàn）出发，为AI助手（shǒu）的发展提供（gòng）支（zhī）持（chí）和保障。包括明确AI助手的适（shì）用场景和（hé）范围等，避免误用，更要避免国际资本（běn）集团假借（jiè）技术触发虚假市场的滥用。特（tè）别（bié）是在医疗、教育、交通等关键（jiàn）领（lǐng）域，应严格规范AI助（zhù）手（shǒu）的应用（yòng）条件和程序。此外，要建立健全AI助手的（de）监管机制，加强社会力量尤其是（shì）人民群众对AI助（zhù）手应用的监（jiān）督和评估，确保其合规（guī）性、合理性和安全（quán）性。对（duì）于违规行为，应依（yī）法进行（háng）处罚和（hé）追责。”任勇（yǒng）表示（shì）。

未（wèi）来，企业（yè）可（kě）以利用AI助手优化现有业（yè）务（wù）流程，特别（bié）是（shì）在新产品研发和（hé）服务的创新（xīn）应（yīng）用方面（miàn），AI助手的普（pǔ）及将推动不同（tóng）行业之间的跨（kuà）界融合和（hé）协同发展（zhǎn），为企业（yè）带来新的（de）商（shāng）业机会和合作（zuò）伙伴，进而带动商业模式和生（shēng）态的变（biàn）革。

中央（yāng）财经大学数字经（jīng）济融（róng）合创（chuàng）新（xīn）发展中心（xīn）主（zhǔ）任陈（chén）端在接受中国经济时报记者采访时认为（wéi），企业运用AI助手强化核心竞（jìng）争力需（xū）要一系列的（de）战（zhàn）略规划和（hé）技术实施。

一是（shì）要识别关（guān）键业务场景（jǐng），深入（rù）了解业务需求，确定AI助手在哪些环节能够发挥最（zuì）大（dà）价值，然后为选（xuǎn）定的业（yè）务场（chǎng）景明确具体的需求和目标，如提（tí）高（gāo）客户满意度、优（yōu）化库（kù）存管（guǎn）理、增（zēng）强（qiáng）市场（chǎng）分析能力等（děng）。

二（èr）是根据业务（wù）需求和技（jì）术成熟度（dù），选择适合的AI技术和解（jiě）决方案，要充分考虑与现有（yǒu）系（xì）统的兼容性，确（què）保AI助（zhù）手（shǒu）能够顺（shùn）利（lì）集成到企业的IT架构中。此（cǐ）外（wài），还要建立完善（shàn）的（de）数据治理体（tǐ）系，避免因（yīn）为数据偏差导致的结果偏差。

三是需要设（shè）立明确的（de）评估指标和（hé）机制，对AI助手的（de）性能和效（xiào）果进行定期评估，及时调整和优化AI助手的算法和（hé）模（mó）型，以（yǐ）提升（shēng）其准确性和效率。此（cǐ）外，还需要关注AI助手（shǒu）可能（néng）带来的伦理和（hé）社会问题，确保其应用符合道德和法律规范。