5年内，人工智能体将进化到多强大？_专栏

23年11月，比尔盖茨在他的个人博客GatesNotes上发布了一篇题为《AI将要完全改变你使用计算机的方式》的文章，重点关注了一个新概念——“智能体”（agents）。简而言之，比尔盖茨对未来几年AI技术的应用潜力充满信心。他认为在未来五年内，强大的智能体将随处可见，不论是面向消费者还是企业，而医疗保健、教育、生产力以及购物娱乐等四个领域被列为首要关注的领域。

盖茨对智能体的信心源自今年备受瞩目的大模型技术。具体来说：

大模型技术支持了智能体的自然语言处理能力。今年的AI更擅长理解人类语言，避免了频繁的标准化回复，甚至展现出了chatbot出乎意料的情感智商，减轻了程序呆板和刻意的感觉。自然语言是人类文明延续的重要因素，而它也是人与智能体最关键的交互界面。

大模型技术增强了智能体的信息处理能力。通过多层预训练，涵盖了全球知识、行业知识和场景知识，再加上用户定制的微调，智能体可以提供更为精准的服务。智能体的智能边界仅仅取决于用户对其的信任程度和提供给它的信息量。

大模型技术推动了智能体在应用助手场景中的发展。由于大模型支持多模态，训练数据不仅仅是语言文字，还包括图像、视频、音频，甚至拓展到数字传感器等。多模态训练之后，智能体不再仅限于执行任务，而是更有可能理解用户意图和真实需求，进而预测、主动提示，以及提供多维度结构化的思考和建议。微软全线应用产品的Copilot就是一个典型的例子，与过去的回形针Clippy完全不同，Copilot不再仅仅是一个程序，而是真正朝着智能体的方向发展。

我们有理由相信，以大模型为主导的AI技术可能成为第四次工业革命的核心动力。正如盖茨所言，在未来五年内，我们将见证各种各样的智能体问世，它们将在各个行业中发挥巨大作用，成为人类最智能的助手。

对企业来说，是否需要多年的时间才能使用强大的智能体呢？笔者认为答案是否定的，只要先解决掉最关键的问题：成本。

目前大模型的整体部署成本往往在几百万起步，这容易阻碍有意尝试新科技的企业。因此，市场需要经济实惠、可交付的训练推理一体解决方案。云锦微推出的边缘智能体 - 多模态版就是一种高可用性的选择。搭载自主研发的云锦OS，通过自研的开源计算框架VT-Transformer，解决了大模型在国内算力上的各种问题。该产品的主要特点包括无需复杂配置、私有化部署、全国产化无需Nvidia卡以及获得最优算力成本。

以边缘智能体 - 多模态版支持的国产算力希姆计算STCP920为例，STCP920基于RISC-V扩展指令集，搭载16G内存，整数运算速度（INT8）为256TOPS，性能可与Nvidia的A10相媲美。在云锦OS的支持下，STCP920智能体的计算成本相比A10可减少到1/5。此外，相较于A10的至少需要5名CUDA生态工程师进行部署，云锦OS的AI-Infra部署仅需1名C++工程师，STCP920智能体的开发人力成本可减少到1/5。

换句话说，无论是希望在开发中获得领先优势的企业开发者，还是有科研需求、希望探索AI技术和应用边界的高校、研究所，都可以借助边缘智能体 - 多模态版，从现在开始构建属于自己的强大智能体。以开源模型常用的8卡训推一体机为例，原本Nvidia架构时的AI-Infra成本轻松控制在百万元以内。云锦微的边缘智能体 - 多模态版可以支持多种大模型参数，适用于各种垂直大模型的训练推理。VT-Transformer目前已开源，详情请见http://github.com/vt-transformer。

对于主要解决视觉问题、场景相对简单的企业客户，还可以选择云锦微的边缘AI智能体 - 视觉版。该智能体允许企业或服务提供商快速编程和部署，减少对上游供应商的依赖。该解决方案包括视觉EC终端和VTStation训练一体机两部分。视觉EC终端使用现有的安防摄像头捕捉实时视频流，运行视觉算法并触发事件警报。VTStation训练一体机提供了一个算法生成工具的图形界面，使客户能够以无需编码的方式完成算法生成、数据标注、微调和版本管理，以满足监测需求。此外，VTStation训练一体机还提供了一个主动告警中控APP。

在视觉版智能体上开发应用时，可以参考如下的L1-L4分级，来解决企业日常运营中的各种问题。L1，守护人。这一级智能体的应用主要在安全防护、合规监测、人员行为核验、大数据预警等。L2&L3，辅助人。两级辅助比例不同，智能体的应用主要在确保品质一致性、提升生产效率、积累数据资产以及应对相对恶劣环境下的作业等。L4，解放人。这一级的智能体的应用主要在7x24无人值守、极端恶劣环境下的作业等。