阿里云李佳：构建开放可扩展的AI Agent生态系统，推动金融服务升级

专题：第21届中国国际金融论坛

　　第21届中国国际金融论坛于12月19日-20日在上海召开，主题为“金融高质量服务新质生产力发展”。阿里云智能新金融行业首席架构师兼资深总监李佳出席并演讲。

　　以下为演讲实录：

　　大家早上好，我今天分享的话题是：大模型时代AI Agent驱动场景价值链重构。探索 AI Agent 在金融领域的革新实践，构建开放可扩展的 AI Agent 生态系统。

　　首先，让我们一同探讨大模型在未来的发展趋势。过去一年里，业界对大模型基础模型以及算力的竞争尤为激烈。展望未来两年，我们预测AI技术的渗透率将超过70%，这标志着AI将更加深入地融入各行各业，成为推动社会进步和经济发展的核心动力。

　　2023-2024年AI应用下载次数超过 60亿次，C端用户渗透率基本达到80%以上。放眼全球市场，基于IDC报告分析，在未来3年全球生成式AI市场年复合增长率达85.7%；到 2027 年超过45% 的企业将生成式AI来作为核心技术开发数字产品和服务，从而使收入增长比竞争对手翻一番。同时，在未来3年有将近三分之二的云端应用将使用AI能力，升级为AI智能应用。审视中国市场，在大模型方面依然是蓬勃发展的趋势。有报告预测到2028年中国AI大模型行业的市场规模将突破千亿元，五年行业符合增速将超过50%。

　　随着大模型应用和AI Agent智能体的快速发展，算力需求呈现出显著的增长趋势，这与云计算的发展形成了相辅相成的关系。首先Scaling-Law大力出奇的铁律依然有效，GPT-4训练使用了2.5万张A100 GPU算力，GPT-5将使用5万张H100 GPU卡，十万卡集群已经出现。其次在AI服务器采购方面，2022年AI服务器采购只占整体服务器采购15%，2024年第二季度AI服务器整体采购率占30%，不到两年的时间翻了一番。

　　AI Agent将会成为推动AI技术革命的关键力量。随着时间的推移，大模型的一些局限性开始显现，AI Agent作为新的研究方向，开始受到越来越多关注。什么是AI Agent？比较经典的一个定义是前OpenAI的研究主管Lilian Weng给出的定义：AI Agent包含大模型、规划、记忆、工具使用。复旦大学的NLP团队给出更加简单的定义：大脑、感知、行动，AI Agent通常被翻译成AI智能体、AI助理、AI代理，我认为更通俗理解是AI专家、数字专家，我们身边将会有越来越多AI专家、数字专家出现在各业务场景中协助或替代人类的工作。Open AI 2024年七月内部会议中，把人工智能未来发展等级定义为5级：第1级是ChatBot 聊天机器人，在智能客户场景已经广泛应用；第2级是具备人类水平问题解决能力的推理者，应用场景是企业智能知识库、细分场景的专业小助手，企业智能知识库是大多数金融机构面向内部业务人员试点落地的第一个大模型应用。第3级是AI Agent智能体，将会在千行百业的不同场景中落地为AI投研专家、AI程序员、自动驾驶员等智能应用。能够看到，2025年将是AI智能体元年。

　　2023年4月云栖大会上阿里宣布所有产品未来将接入“通义千问”大模型，进行全面改造，包括天猫、淘宝、钉钉、天猫精灵、闲鱼、盒马等产品。在今天回顾来看，这张就是针对阿里全面拥抱AI，阿里AI Agent智能体生态大图，在图中可以看到菜鸟中乡村助理、站长助手等AI专家应运而生。钉钉中更多融入大模型能力，会议助理能帮我们做会议纪要总结会议重点，明确会议里提到的下一步工作计划和待跟踪事项等；用钉钉智能文档画脑图，AI智能创作功能，可以自动完成思路节点扩展，给出更多思路建议。钉钉智能文档里的内容，会通过大模型做训练，生成智能问答助理，更好的拓展我们的知识边界。

　　金融行业AI Agent智能体生态正在蓬勃发展，伴随生态发展，正在驱动应用开发范式、模型范式、基础设施架构的深刻变革。前两年做基础设施选型时，金融行业更多关注云平台、CPU算力的选型，随着AI技术的引入，基础设施将革新升级为“云+AI”智能算力，更多关注GPU选型、GPU异构技术管理等。随着大模型技术的引入，我们会发现在数据中台这层变得更简洁，数据工具链将围绕着大模型的预训练、微调、智能问数等能力演进，之前我们做数据中台关注“采、建、管、用，盘、平、治、享”的能力，现在更关注怎么做大模型微调、怎么做prompt提示词工程，怎么做RAG，各种新知识应运而生。随着数据中台被大模型改变，业务中台也会越来越智能化，之前业务中台围绕价值链、流程组、流程、任务、步骤进行构建，这些业务服务或模块组件，通过大模型能力将升级为多个AI Agent智能体，嵌入到业务场景中支撑场景价值链的重构，在AI Agent应用层我只是列举了阿里云落地的20多个AI Agent，如：营销多智体（由营销活动策划、定价政策问答、报价方案调整等Agent组成）、投研多智体、非金的文旅多智体等。在我们成功实施的众多AI项目中，已有上百个AI Agent顺利落地，并取得了显著的业务成效。这些AI Agent不仅提升了运营效率，还为客户创造了实实在在的价值，推动了业务的持续增长和创新。

　　举个例子，AI Agent金融多智体应用，正推动着产业金融服务升级。在供应链金融、产业金融业务过程中，往往面临着行业差异大、专家经验成本高，对行业的理解高度依赖专家经验沉淀；数据碎片化，需从海量、碎片化、成分复杂的数据中挖掘可用数据，刻画小微经营情况；信贷业务风险把控有一定滞后性等难题。通过大模型能力，某互联网银行创新构建了多个Agent专家。通过领域经验库沉淀构建了产业链构建Agent，自动完成产业链资产算法任务。通过互联网搜索、文档智能、RAG技术形成行业经验沉淀，构建了更智能的产研Agent专家。通过资产语义化、画像评测、NL2范式、数据解读能力，构建了画像Agent，提升企业客户画像生成的效率。通过智能问数、智能解读、分析经验沉淀、构建了业务分析Agent，生成业务分析观点，助力业务策略制定，提前规避业务风险。通过大模型技术，该行构建了产业链全链路的AI Agent小分队，可秒级生成小微客户经营画像，全链路任务复刻率达到60%，业务效能提升10倍。

　　刚才讲到应用、平台、模型、算力，每一层的技术架构都在重构。

　　应用层，在AI时代应用开发范式在向着AI原生应用架构演进。底层算力从CPU升级到GPU芯片。数据中台引入大模型能力，微服务演化成AI Agent，应用开发过程中，用户交互界面也发生转变。用户交互界面首先调用大模型的能力对用户意图进行理解，利用像阿里云通义点金这样的AI Agent平台，进行prompt提示词优化、RAG检索增强、对话记忆处理等调用大模型与客户进行交互，完成力所能及的基本业务处理和操作，在进一步明确意图之后，通过算法进行流程调度，通过API接口调度原有微服务、原有业务服务的能力实现业务操作处理。以手机银行转账功能为例，传统银行转账功能普遍是打开手机银行App，输入账号、金额、密码等信息进行转账操作。以AI驱动的银行，打开AI原生手机银行App，与客户进行语音式交互，当用户需要办理转账业务时，AI首先分析用户的历史交易习惯，快速识别常用联系人，并提供一键转账的便捷操作。对于新联系人，AI将协助用户快速录入转账信息，如收款人姓名、账号和转账金额等，并引导用户完成安全验证，确保转账交易的安全性和准确性。因此，我们能够预见未来两三年内，纯语音的交互式金融App将会出现，打开一家金融机构的App可能只有一个语音对话框，先是利用大模型能力对用户语义进行意图理解，之后通过算法做流程智能编排，分发给各类AI数字专家（转账Agent、信贷Agent、财富管理Agent等）进行金融业务操作。

　　平台层，更多关注如何去用更短的时间、更高效率开发AI Agent智能体。大模型应用创新平台，开启了应用、服务新范式。阿里云通义点金AI Agent应用研发平台，可快速构建具备金融行业场景化智能化的创新应用，可在数分钟之内创新构建出AI Agent应用。加持阿里云百炼平台的能力，模型中心可提供丰富多元的大模型供给；提供大语言、多模态等多元模型可选择；同时支持三方的开源、闭源模型接入。支持更高性能的模型调用服务，高响应、高并发的模型调用服务，提供极致调用体验。应用中心可提供高效的智能体应用开发组件；提供完整的应用创建流程，支持使用开放架构创建智能体应用，集成prompt提示词优化工具、流程管理工作流、插件等能力。测评中心可支持对模型的有效测评等。

　　模型层，基模的选择非常重要，我听到刚才某证券公司分享的代码大模型的案例中的疑问，代码大模型为什么业界听说能够达到20%~30%以上的代码采用率，但是自己实际测试效果仅有10%？我认为这里面最深层次的原因在于对基模的选型，阿里云基于通义千问基础模型训练的代码大模型通义灵码，提供代码智能生成、研发智能问答能力，经过对代码库的训练学习和调优，代码采用率可达到至少30%以上。就和建设摩天大楼一样，基础不牢地动山摇，基模选择不好，建设效果自然不会好，后期想通过工程化能力做提升事倍功半，基础模型选型好则事半功倍。秉承着全规格、多模态、广开源的技术发展策略，阿里云通义实验室自研了一系列技术领先的AI大模型，包括通义千问大语言模型和通义万象多模态大模型等，同时构建了生态繁荣的ModelScope魔搭开源社区。我们不仅拥有大尺寸和小尺寸模型，还提供了全规格、多模态的模型，兼顾场景、性能和成本的选择。借助开源版大模型可进行场景验证，使用商业版模型将拥有上线保障和商业技术支持。大小尺寸模型结合，可平衡效果与成本。复杂场景用大尺寸，单一特定领域可选用小尺寸模型。语言、图片、视频等多模态融合，可满足跨模态场景需求。开源的通义千问72B大模型已经在众多金融机构被广泛使用，欢迎大家到开源社区下载试用，探索更多的业务创新场景。

　　算力层，AI时代数字新基建已经从“云”升级为“云+AI”智能基础设施，支持国产化、一云多芯、一云多算力的技术能力，支撑金融机构用大模型能力在各个业务场景中重塑价值链。AI Agent的爆发将带来越来越多的推理计算场景涌现，随着金融AI Agent智能体To C服务能力的不断增强，在算力层将消耗更多的GPU推理算力。因此，建议金融机构积极拥抱公共云、金融云的GPU算力资源，在监管合规的前提下，充分发挥其灵活性、成本效益和技术优势，快速获得和应用AI创新技术并大幅降低GPU算力的使用成本和费用，全面推动智能化转型，提升核心竞争力。