浪潮信息共建“可靠AI”测评体系,加速AI从技术验证走向规模化生产
近期,电子五所与浪潮信息、北京开源芯片研究院、百度智能云、阿里云等20余家企事业单位共同发布了一套面向智能体时代的“可靠AI”测评体系。该体系把芯片、整机与互联、框架和系统软件、模型、数据以及应用等纳入评估范围,促使AI评价从单一能力测试转向全链路系统可靠性核验,从而为AI规模化应用提供更成体系、可验证的评判依据。
作为联合发布方之一,浪潮信息将自身在AI系统架构、异构算力适配、大规模部署和标准化建设中的实践沉淀,用于支撑该测评体系的构建。
“可靠AI”测评体系覆盖AI全链路
随着AI应用从智能问答向复杂任务执行演进,智能体需要支持多轮推理、工具调用及长时间持续运行,AI系统的可靠性已不再取决于单一模型或硬件性能,而是芯片、整机、软件框架、模型与应用等多环节协同的综合结果。如何评价整套系统在复杂业务场景中的稳定性、安全性与任务执行能力,成为AI规模化应用需要解决的重要问题。
此次发布的“可靠AI”测评体系,将人工智能系统在特定应用场景和规定运行条件下持续、稳定地实现预期功能和性能,作为可靠性评价的重要基础,并将安全性、可预测性以及异常检测、处置和恢复能力纳入评价要求。
该体系围绕基础软硬件、模型、数据、应用四个层级展开,形成覆盖AI全链路的可靠性评价框架:
>基础软硬件层:包括芯片、整机与互联、框架与系统软件3部分,重点验证算力性能、带宽利用率、首Token时延、能效比、长稳性、多卡多机协同、通信扩展效率、资源隔离、调度恢复等能力,解决AI系统“算得稳、跑得住、配得准”的问题。
>模型层:围绕通用能力、领域场景能力和对抗条件下的表现开展验证,重点关注领域准确率、幻觉率、鲁棒性、安全对齐和复杂任务完成能力,判断模型是否“答得对、稳得住、控得住”。
>数据层:围绕数据质量、权属合规、时效性、可溯源性、检索效果、污染隔离等开展测评,保障训练数据、知识库数据和推理输入“可信、准确、合规”。
>应用层:面向最终业务价值,重点验证AI应用的系统稳定性、任务闭环能力、越权防护、事务一致性、安全退出、异常恢复和业务成效,判断AI系统是否具备真实场景上线和规模化推广条件。
通过覆盖不同层级的评价方法和可复核的测评证据,该体系旨在为企业开展AI系统选型、部署验证和运行优化提供参考,推动AI应用从技术验证走向规模化生产实践。
浪潮信息参与共建,推动“可靠AI”测评方法与工具建设
作为AI算力系统厂商,浪潮信息长期围绕大模型和智能体应用需求,开展AI服务器、超节点、异构算力适配及软硬件协同优化等技术创新,在多元算力系统设计、性能验证和规模化部署,以及相关技术标准建设方面积累了丰富的实践经验,为AI系统可靠性测评提供了技术基础。
目前,浪潮信息正积极推进面向异构算力的大模型推理系统测评方法研究与工具开发验证,覆盖芯片、服务器、集群、推理软件栈及模型等环节,聚焦精度、性能、稳定性、能效和经济性等关键维度,通过规范测试环境、模型配置和负载条件,提升不同算力平台测评结果的可比性与可复现性。同时,围绕测试执行、数据采集、指标计算和报告生成等环节推进测评工具开发与验证,推动系统级评价要求转化为可执行、可复核的测试能力。
面向下一阶段,浪潮信息将继续携手产业各方,推进“可靠AI”测评体系的迭代优化与实际场景落地,促进系统评价方法朝着更科学、更客观、更易复现的方向演进,从而为AI基础设施在选型决策、适配验证和规模化部署中提供有益借鉴。
发表评论




暂时没有评论,来抢沙发吧~