日前，元脑服务器率先实现BMC集成嵌入式AI大模型，打造运维AI专家助手，大幅提升智能运维能力。为解决传统BMC管理依赖运维专家、人工运维效率低的难题，元脑服务器全新升级固件管理平台，依托多核架构的BMC固件，业界率先集成嵌入式智能运维AI大模型，该模型构建了多元算力平台的BMC运维知识库，并基于不同运维场景的分层架构设计，可以轻松回答客户运维场景中约80%复杂技术咨询问题，业务处理时长可降低65%，整体服务效率提升160%。
传统BMC运维依赖人工，运维效率亟待提升
随着人工智能时代的到来，数据中心设备大规模增长，多元异构的算力平台加速推动服务器固件BMC管理技术的演进，IPMI、Redfish等精细化的运维工具日趋成熟，极大提升服务器管理的自动化水平。但传统的固件BMC运维技术门槛高、上手慢、依赖专家经验，运维人员需要花费大量时间学习和适应新设备、新工具，学习成本高。同时服务器管理涉及参数配置与故障排除等复杂管理，强依赖专家经验和指令操作，运维人员要频繁查阅用户手册或咨询厂商FAE团队，增加运维难度。
■ 多元算力平台BMC运维，学习成本高：BMC 作为服务器管理的核心组件，其运维效率直接影响数据中心的业务连续性。传统的数据中心服务器BMC运维管理是一项复杂而繁琐的工作，面临BMC专家少、支持响应慢等问题，影响业务效率，还增加了数据中心稳定运行的风险。并且多元异构算力平台（x86/ARM/Power）BMC指令互不兼容，运维人员需掌握不同硬件架构的专属管理协议和操作规范，导致不同算力平台运维人员学习成本高，业界亟需探索一种更加高效智能的运维管理模式，降低异构平台运维的技术学习门槛，消除专业知识传递瓶颈
■ 服务器大规模集群运维，人工维护效率低：服务器集群固件运维涉及实时状态监测、告警处理、日志分析、故障排查、指令执行等复杂场景，需处理大量差异化指令。小规模集群场景下，人工巡检尚能维持响应效率；但面对万台级规模化部署时，传统人工运维模式往往陷入响应滞后困境，平均需在故障发生后40-60 分钟才能启动应急处理。BMC作为服务器的本地管理模块，如果能够代替人工在故障发生第一时间进行处理，甚至提前消除可能发生的风险，将能极大提升运维效率，降低服务器故障率。
BMC固件管理平台集成AI大模型面临多重挑战
当前，生成式AI技术的崛起为固件管理带来了变革契机。凭借强大的数据分析、学习和预测能力，AI可以提炼传统固件BMC运维专家的经验知识，重塑智能、高效、安全的固件管理模式。但服务器BMC固件要集成嵌入式智能运维AI大模型仍然面临智能运维算法创新难度大、算力资源受限的挑战。
■ 算法创新技术门槛高： AI运维算法要解决不同架构、不同型号服务器集群的BMC运维问题，涉及实时状态监测、告警处理、日志分析、故障排查、运维指令执行等复杂场景，需要开发人员基于海量的软硬件运维专业知识、设备运行的高质量数据训练，并且依赖大量专家对数据进行整理与核验，对开发人员的跨领域融合创新有很大挑战。
■ 算力资源受限：BMC作为嵌入式硬件，功耗低、内存有限，难以支撑AI模型运行的高昂算力、高内存等系统资源需求。目前生成式AI模型在BMC嵌入式设备中的应用仍是行业空白，如何在算力资源有限的环境下，实现固件管理嵌入生成式AI模型，成为业界要解决的一大难题。
元脑服务器系统化创新，大模型首次集成至BMC嵌入式系统
通过系统创新，元脑服务器业界首次实现将智能运维AI大模型集成至BMC嵌入系统。智能运维AI大模型依托多核并行的 BMC 计算架构，构建了多元异构平台的BMC运维知识库，并基于不同运维场景的分层架构实现AI运维模型的高效运行，覆盖用户管理、故障诊断、日志解析、监控告警等五大类问题、上万种场景，可以轻松回答客户运维场景中约80%复杂技术咨询问题，业务处理时长可降低65%，实现运维效率大幅提升。
其中，BMC集成嵌入式AI大模型面临算法创新优化和算力资源受限等挑战，元脑服务器固件管理平台的开发人员采用了多项创新技术。
算法层面，面对BMC运维学习门槛高的问题，元脑服务器固件管理平台的开发人员汇聚了不同架构平台（x86、ARM、Power）、不同产品类型（AI服务器、通用服务器、边缘服务器）的百万级运维操作手册、数十万份日志、上万条专家经验和工单数据，基于多源异构数据集训练及构建领域知识图谱，利用自动适配机制动态调用对应知识库，实现跨 x86/ARM/Power 算力平台的精准问答，支持差异化硬件架构的智能运维。同时，面对多样化的运维场景，开发人员采用分层架构设计，通过多模态数据融合、动态任务分配与协同决策机制，实现复杂运维场景下的高效故障处理。
算力层面，元脑服务器固件管理平台支持最新BMC，显著增强多节点算力调度与复杂任务处理能力，全面支持BMC多核并行计算，实现更高效的启动速度、更智能的内存管理及更强的多线程与并发处理能力，在远程管理效率上提升65%，解决了AI智能运维算法在BMC上运行的数据传输和计算瓶颈。同时，开发人员基于结合BMC系统架构，对模型进行了知识蒸馏、再训练、模型压缩等优化，实现亿级参数量模型基于BMC本地资源的高效运行，可以为运维人员提供流畅的AI推理问答体验。
目前，运维人员基于元脑服务器固件管理平台的管理页面登陆即可体验BMC AI助手交互功能，该智能运维AI大模型助手能够实时解答BMC运维中约80%的专业难题，覆盖用户管理、故障诊断、日志解析、监控告警等五大类问题、上万种场景，在复杂技术咨询场景中回答精度显著提升，运维业务处理时长可降低65%，整体服务效率提升160%。
第八代服务器
