北京灵奥科技：帮助企业解决数据问题，打通大模型企业端落地“最后一公里”

中国发展网讯 记者成静报道 目前，数据问题已成为企业落地大模型的核心挑战之一。这主要体现在四个方面：首先，模型需要深入理解企业多样化的业务数据，然而数据的类型繁多、格式杂乱且来源无法统一；其次，业务数据随着企业运营实时变化，模型需不断学习不同来源的、持续变化的业务信息；第三，数据隐私和大模型使用的安全合规是企业业务不能触碰的红线。企业既要让模型理解好数据，又需要做到安全合规；最后，数据偏见和公平性问题：不同大语言模型由于训练数据来源不同，侧重点有差异，导致模型会存在偏见。因此，企业需要评估不同模型的能力以及为不同业务场景选择合适的模型。

作为一家快速成长的初创企业，北京灵奥科技（Vanus）致力于推动生成式AI技术的普及，将大模型优势和业务数据无缝结合，帮助企业解决数据问题，从而加速企业的商业成功。

“我们提供了帮助构建AI Agent的SaaS平台。我们坚信，未来AI Agent将成为推动企业业务快速增长的关键力量。公司先后推出了Vanus Connect、Vanus AI和VanChat三款SaaS产品，累计服务全球30,000+用户。目前已经获得靖亚资本、PNP等机构的多轮融资。”北京灵奥科技CEO 厉启鹏说。

厉启鹏介绍说，大模型中间件介于大模型和应用之间，帮助企业解决数据问题，打通大模型企业端落地最后一公里，是企业构建AI应用的必备组件。在神经网络层，Vanus Connect可以连接企业不同的数据源，实时感知企业业务事件的变化，并推送给神经中枢，然后接收神经中枢的指令去做执行。在神经中枢层，Vanus AI结合知识库（向量数据库）和大模型，帮助企业做业务的决策。

同时，大模型中间件Vanus将大模型优势和企业数据无缝结合，提供Claude 3等多模型选择，实现商品数据自动同步，包括商品数据自动更新、Shopify数据自动接入等，还可与网站、钉钉、飞书、企业微信等第三方应用无缝集成，助力企业灵活定制机器人，自定义聊天风格、欢迎词、外感颜色等等。

厉启鹏举了一个关于Vanus AI为国内某ERP企业客服人员构建AI Copilot的例子。该企业各部门沉淀大量内部数据，但是跨部门知识共享效率低，需花费大量时间对客服进行培训。同时，客服人员基于传统搜索方式获取知识，响应时间长导致用户的投诉率较高。“Vanus基于Amazon S3、数据库等云服务，帮助用户从文档、数据库、SaaS软件等多个数据源中实时抽取数据，构建统一的企业知识库；并借助AmazonBedrock等服务，为企业客服人员构建AI Copilot，基于全域业务数据实时推理，为客服人员秒级提供回复建议，大大降低了客服响应时间。现在，客服人员将问题回复时间从分钟级降至秒级。AI Copilot将客服团队的人效提高70%，很大程度降低了客服投入的成本。”厉启鹏说。

另外一个则是VanChat服务南美州某服饰类电商企业的例子。该电商企业拥有两个Shopify电商独立站，10000+ SKU。客户每天有大量产品、退换货、物流等问题咨询，需要很多客服人员，管理成本高。而且客服人员下班后仍然有很多客户询问，延时回复不仅导致客户满意度下降，还因此错失了很多商机。Vanus通过基于Amazon Bedrock、Amazon S3等云服务为Shopify电商客户构建客服类AgentVanChat，为网站购物者提供7*24小时即时问题回复，为企业节省大量人力资源，提高客户满意度。此外，通过VanChat提供的用户意图识别、产品推荐等功能加速用户产品购买，提升网站的销售额。VanChat为该客户带来快速的营收增长，仅上线首月ROI高达611%；同时，了解用户主要关注的产品以及最近常被提及的问题，提供客户洞察。

“Vanus绝大部分的技术问题在亚马逊云科技上都能找到答案，找到相关的云产品。这些产品能够增强性能、提升稳定性，为我们提供强有力的支撑。”厉启鹏表示。

事实上，Vanus整个平台都是基于亚马逊云科技构建的，利用亚马逊云科技的基础云服务、大语言模型、数据存储三类云服务，为企业构建AI Agent平台，现已服务全球数万家用户。亚马逊云科技为Vanus提供了几个显著优势：

一是弹性可扩展。利用Amazon Elastic KubernetesService（Amazon EKS）基于网络流量的弹性扩展能力，Vanus AI构建的Agent可以根据用户业务流量平滑弹性伸缩。帮助企业平均成本降低30%，性价比提高20%。

二是提高系统可用性。通过Amazon DocumentDB原生的3可用区、6副本的设计，提高可用性和可靠性，可以达到不低于99.99%正常运行时间的服务等级协议（SLA）。

三是降低回复延时。借助Amazon Simple Storage Service（Amazon S3）及数据库高并发数据查询能力提高大模型上下文加载时间，同时借助亚马逊云科技全球网络节点加速能力，整体将Agent回复系统延时降低40%。

四是推理能力强。通过Amazon Bedrock提供的Claude模型，为Vanus平台的AIAgent提供非常强的语言理解和逻辑推理能力。

谈到为何选择亚马逊云科技作为合作伙伴，厉启鹏表示，亚马逊云科技提供使用简单、功能强大的云服务，这是合作的基础。而且，亚马逊云科技还提供全方位的技术服务，包含技术方案和架构师等，加速Vanus的产品落地。同时，通过亚马逊云科技合作伙伴网络（APN）提供全面的推广资源和支持，加速产品进入市场。

“我认为亚马逊云科技是最值得信赖的云服务提供商。作为全球最大的一朵云，它有非常强大的运营经验，能够帮助我们更好地服务分布在不同区域、不同国家的客户。同时，它也是我们首选的一朵云，经过了全球最多用户的打磨，是最安全的云。”厉启鹏说。