赋能海光，VT-Transformer强势助力国产算力走向商用

在我国自主研发的人工智能芯片领域，近期涌现出一颗耀眼的“国产之光”——海光DCU。这款芯片的推出不仅引起了业内和舆论的强烈反响，更被认为是中国在人工智能芯片领域迈出的重要一步，成功打破了西方国家在该领域的技术垄断，标志着中国AI芯片产业正式进入春天。
海光DCU以其高性能、安全可信等优势，成为国产算力的代表，并在计算机视觉、自然语言处理、搜索推荐、深度学习等多个领域展现出广泛的应用前景。该解决方案的独特之处在于其支持异构计算，可以灵活搭配主流GPGPU、国产AI加速卡和HYGON深度计算处理器，为用户提供多样化的选择。而自主研发的GPU设计，更在保密计算和安全验证方面实现国产化替代，为我国构建自主可控、安全高效的AI计算平台奠定了基础。
作为目前国内少数可以大量供货并支持全计算精度的AI芯片，海光DCU在性能、通用性、安全性等多个方面均超越了国际先进水平，填补了我国AI芯片的空白，使中国AI芯片产业迈上了新台阶。它不仅赢得了国内市场的选择和认可，还成功打入了智能计算中心、互联网、金融、电信、教育等多个应用场景，为各行业提供了强大的算力支持。
然而，要将海光DCU推向更广泛的商用领域，单靠硬件本身是远远不够的。正是在这个背景下，云锦微与海光展开了战略合作，为海光DCU注入了新的生命力。云锦微自研的一体化C++计算框架vt-transformer成为合作的关键，为海光DCU赋能，助力国产算力更好地走向商用。

vt-transformer计算框架是云锦微开源的一项重要技术，以其完整的自主知识产权、高度整体性和精简度高的特点，成为开源生态的一种优秀选择，可作为Nvidia和华为等平台的有力补充。该框架的独特之处在于完全采用C++开发，抛弃Python，易于移植和部署，注重整体优化，支持两种典型应用模式，即单机单卡低延迟推理和单机8卡训推一体，以及支持Q4/Q8量化计算、KV Cache管理等优化和实用功能。

通过vt-transformer计算框架的引入，海光DCU不仅能够简化大模型移植到算力加速卡的开发工作，提高运行效率，更能够建立起国产算力的差异化竞争力。该框架的开源性质也为开发者提供了参与体验和共同创新的平台，进一步推动了国产算力的发展。
云锦微推出的数字底座，尤其是边缘智能中枢解决方案，搭载了vt-transformer计算框架，为各种主流AI算力加速卡和开源大模型提供了全方位的支持。该解决方案已经适配了多种大模型，并在性能上取得了令人瞩目的成绩。在vt-transformer的驱动下，边缘智能中枢实现了A10级别的性能，为各行各业在进行AI基建时带来了巨大的经济效益，充分发挥了算力基础设施的效能。
综合来看，云锦微与海光的合作，通过vt-transformer计算框架为海光DCU赋能，不仅加速了国产算力的商用进程，更为中国在人工智能芯片领域的崛起做出了积极贡献。这不仅是对“国产之光”海光DCU的强势助力，更是对国产算力振兴的有力支持，为我国在人工智能领域的全面崛起奠定了坚实的基础。

上海云锦微智能科技有限公司致力于为数字化集成商提供视觉边缘智能体、大模型边缘智能体以及数字孪生底座解决方案，助力客户成为专业的AI服务专家。团队源于浙江大学，阿里巴巴达摩院，依图科技与Marvell半导体的资深科学家与计算专家，致力于AI Infra的开发建设，基于一体化C++开源训推框架Vt-Transformer和云锦OS两大核心技术，为应急管理，智慧交通，工业互联，智慧水务，智能车联，能源管理等领域客户提供边缘智能体硬件（软硬件一体边缘计算盒子）和算法定制化服务，可实现场景和算法100%适配，解决视觉AI项目部署两大难题，携手产业共赢。

同时欢迎关注云锦微公众号，相关行业信息及解决方案第一时间了解。