中关村科金出席首届生成智能产业峰会，分享大模型在ToB场景的实践

3月20日，“万物智生 百业赋能”首届生成智能产业峰会在北京举办，作为国内领先的对话式AI技术解决方案提供商，中关村科金受邀出席，与业界专家共话生成式人工智能技术的发展应用。

本次峰会由人工智能关键技术和应用评测工业和信息化部重点实验室、中国信息通信研究院云计算与大数据研究所主办，南京新一代人工智能研究院承办。中国信通院云大所所长、实验室主任何宝宏，百度智能云主任架构师谢永康，中关村科金技术副总裁张杰，华为云高级研究员魏龙辉，中国联通研究院智能技术研究部AIGC团队负责人兼高级研究员吴浩然，中国信通院云大所人工智能部副主任（主持工作）曹峰等领导嘉宾出席会议。

峰会以“技术前沿、行业赋能、应用示范、标准引领”为主线，围绕技术走向、落地机遇、标准建设、发展趋势，与业界专家展开探讨。中关村科金技术副总裁张杰博士发表《大模型在ToB场景下的挑战与实践》主题演讲，并获聘成为人工智能关键技术和应用评测重点实验室人工智能工程化推进委员会“生成式人工智能工作组”专家委员会成员。

今年以来，ChatGPT在全球范围内引发了一场科技革命的讨论热潮，背后的支撑技术大规模语言模型也成为热门话题。

张杰表示：大模型不是一件新鲜事，2018年以后就已经出现各种预训练语言模型，但最近引起各界广泛关注的主要原因是大家看到了大模型的广泛前景。我们可以把大模型想象成一座冰山，冰山浮在水面上的部分，是我们看到它带来的直观效果，火爆是因为大家“看到”了水面以下，大模型对未来产来的深远影响和技术趋势。

大模型具有效果好、泛化性强、研发流程标准化程度高等特点，正在成为人工智能技术及应用的新基座。大模型技术的引爆，不仅为厂商提供了更多“解题”思路，不单局限于关注专业领域智能技术的突破，通过引入巨量参数对基础知识关系进行复杂表达，还朝解决通用智能问题迈进了一大步。但在具体场景应用上，想要充分发挥大模型的潜能和价值，仍需解决一些实际问题。

张杰认为，大模型在ToB赛道上面临六大挑战：

一是模型更新与压缩，当模型表达对某事的信念时，如果该信念是错误的，我们可能很难实时纠正它；另外大模型针对具体任务有能力冗余，需要做压缩，提升推理速度。

二是事实知识，包括模型的内部知识总是在某个时间点的切片快照、模型始终需要新知识来回答新问题，以及处理长尾知识的准确性问题。

三是多模态融合，多模态让机器人有很好的感知能力。未来，多模态LLM或者具身AI或许可以让真正的陪伴式机器人、家庭管家出现。

四是数学计算与符号推理，大模型不能在数学或一阶逻辑等形式严格的系统中进行推理，理想情况是能够将知识部分卸载到外部的检索系统，让语言模型只专注于推理。

五是可解释性，模型内部的运作机制中没有显式的逻辑推理与判断，无法保证准确性；此外回答和推理过程始终是个黑盒。

六是伦理与安全，大模型需加深对于道德伦理、社会准则的理解，与人类价值观对齐，应对更加复杂的伦理问题；另外需要在安全性与可用性之间做平衡，目前仍存在解锁伦理限制的风险。

在挑战之外，大模型“冰山藏于水面以下”的部分已足够让产业振奋。大模型标志着一个巨大的AI开发范式的转换，随着产业链上下游厂商不断追赶，逐步完善底层基础设施和提出适配方案，大模型有望作为基础平台支撑无数智能应用，形成初步生态。

张杰曾提出，对上游云计算厂商来说，大模型会逐渐成为标配，通过自研或并购的方式投资大模型研发，MaaS模型即服务模式的业务占比会增加。大模型开发厂商群体中，第一梯队厂商短期内依然会保持技术领先，在多模态、复杂推理、安全性方面持续挖掘大模型的潜能；第二梯队厂商则会依赖各自优势加强投入，争抢基础模型方面的技术人才，缩短代际技术差距。应用侧业务变化将更为突出，ToC和ToB领域都会出现更多工具和机会。

作为国内领先的对话式AI技术解决方案提供商，中关村科金自成立以来一直关注企服赛道对话场景，围绕大模型所涌现出的复杂推理能力，自研的多项对话式AI产品已在企业服务赛道实现了众多应用落地，如：通过AI生成营销文案、724小时在线回答客户咨询的“得助智能客服系统”、模拟真实业务场景进行新员工沉浸式陪练的“得助智能陪练”、以数字人形态处理在线业务办理的“企业数字员工”等，从不同场景切入，帮助企业实现提质增效。

当前，大模型是现今AI领域最吸睛的热点，作为产业链条中的一员，中关村科金已在产品设计和开发过程中，通过使用预训练模型+微调的模式实现大幅度提升，为客户提供更多价值。未来，中关村科金将继续围绕生成式AI与大模型、知识对话进行应用实践，赋能金融、政务、汽车、零售等多个垂直领域的智能化应用，为企业数智化转型提供更专业高效的解决方案。