首页 > 关于我们 > 新闻中心 > 元脑企智EPAI:打造AI超级工作台,轻松进阶大模型应用开发高手

元脑企智EPAI:打造AI超级工作台,轻松进阶大模型应用开发高手

2024-10-15

编者按:浪潮信息在IT售前行业先行先试,基于企业大模型开发平台“元脑企智”EPAI,高效开发出智能售前助手,实现售前业务智能化转型。科技媒体“脑极体”对其背后的大模型应用开发变革之道进行了深度解读。

近日,浪潮信息售前部门使用“元脑企智”EPAI(Enterprise Platform of AI),让没有专业开发背景的售前人员,靠自己完成了大模型精调、知识库、RAG等技术活,手搓出了AI助手“元小智”,助力售前人员轻装上阵,堪称是最强助攻。

与其羡慕电影虚构的钢铁侠和他的AI助手“贾维斯”,不如把目光放到现实中,放到这群刚刚给自己手搓了一个AI助手的浪潮信息售前人身上。从他们的职场故事中,找到也能让自己化身“超级英雄”的助攻力量。

1.png

浪潮信息的售前人员以前并没有专业的编程背景、也从没干过AI开发,当他们决定自己动手开发AI助手,还真有点超级英雄们“虽万难而吾往矣”的精神了。

最大的困难就是,大模型开发能力门槛高。由于IT售前的技术名词多、术语多、专业技能要求高,有大量的知识know-how没有被文本化,通用大模型学不到。此前沉淀的售前数据,包含了各种格式的文档,还需要进一步处理才能被大模型所用,而这些开发步骤所涉及的技能,超出了售前人员的能力边界。

因此,售前部门选择使用企业大模型开发平台元脑企智EPAI,来帮助解决这个问题。

相逢在元脑企智EPAI:售前“钢铁侠”和AI"贾维斯"的相遇

在元脑企智EPAI全栈技术的助力下,没有专业编程基础的售前人员,只靠1人1月,就完成了模型微调、应用开发和发布,打造出了智能售前助手“元小智”。

“元小智”能力强大,身兼数职。它可以是秘书,帮助业务人员一键处理招标文件,对招标文件中的重要信息进行全面且准确地解读;可以是百科全书,为售前人员快速查阅浪潮信息全系列在售产品及方案,生成产品优势、核心参数等信息,轻松应对客户问题;可以是搜索引擎,为售前人员快速掌握业界资讯与竞品信息,把更多时间放在需求洞察、竞品分析、方案定制、客情维护等更高价值工作上。

售前人员终于可以像钢铁侠一样,把后背交托给AI助手,自己去驰骋职场了。

是什么让售前人员无惧AI应用开发?

究其原因,是元脑企智EPAI具备“上手快”“精度高”“易部署”“安全可靠”四大特点,而这恰好满足了售前部门在各个开发阶段的需求。

2.png

知识库环节:售前AI助手需要专业、全面地了解分析公司产品和招投标文档,而产品资料、解决方案、招投标项目书与行业报告等文件,涉及各种模态和数据格式,有的是结构化数据,比如产品参数表格;有的是非结构化数据,比如客户沟通纪要,要想充分利用起来这些信息,就得构建专用知识库。

售前人员借助“元脑企智”EPAI的数据处理工具,对结构化数据进行自动解析,转化为标准格式的知识库条目;对非结构化数据,也能自动提取有用信息并进行高效存储。

最终,从1500+的 pdf、docx、doc、xls 等多种格式在内的数据中,构建了8 大业务线全部在售产品的知识库。

微调环节:有了售前知识库,通用基础大模型相当于上了专业课,但还没有经过职场历练,不懂招投标工作中的真实业务逻辑,所以还需要微调。

微调过程中,售前人员需要做两件事:一是基于业务真实数据,构建高质量的微调数据集,涉及数据的清洗、过滤等准备工作;二是微调,要经过多次调参,不断迭代,找到最佳的微调效果,其中涉及的繁琐工作也并不少。

售前人员利用元脑企智EPAI的全链路数据治理工具,首先完成了数据生成,从种类多样、场景复杂、规模庞大的招投标文件、产品信息、行业报告中,自动抽取生成微调数据。接下来,借助评判大模型,对生成的每一条微调数据进行自动打分,剔除低质量数据,最终形成了数十万条高质量微调数据。然后,再利用零代码微调工具进行模型微调,实现模型专业能力提升。

应用开发环节:通过知识库和微调,售前人员拥有了符合业务需求的专业大模型,但大模型是很难被业务人员直接使用起来的,还必须经过产品化、功能性开发,让AI好用、易用。此外,在日常使用中,还需要考虑到招投标的信息敏感性,实现AI应用的安全可靠。

这一系列问题,通过元脑企智EPAI也得到了很好地解决。平台提供的多种应用开发工具,支持多种参数的设置、修改。内置的对话式应用支持多轮对话、长文本分析、单文档对话、网络检索等交互功能,可以满足使用大模型的多种功能需求。

同时支持本地化部署,企业可以通过元脑企智EPAI,完成大模型应用的私有化本地开发、部署,在确保数据绝对安全的同时保证应用的高可用。

所以,总结一下“元小智”在元脑企智EPAI上的开发特点:

1.快速。用时短,效率高,很快完成应用的研发上线;

2.专精。结合了售前专有数据和知识库,让AI应用真正成为生产力工具。

3.极简。零基础、零门槛也可上手开发。

“自己的降落伞自己先跳”,浪潮信息售前人员用元脑企智EPAI为自己打造了一个解放职场生产力的AI助手,似乎是理所应当的。

我们能从中学到什么呢?

AI应用开发下一站:EPAI打造AI超级工作台

通过“元脑企智”EPAI ,AI应用开发已经从软件开发工程师才能搞定的“职人技”,变成了自动化、标准化生产的工业品。

也就是说,规模化批量制造“贾维斯”,和其他各种AI应用,已经不再遥远了。

当前AI在各行各业的整体渗透率不到10%,大模型落地的最大阻碍,就在于懂业务的人不懂、不会AI开发,导致大量企业的独特需求,以及长尾场景的定制需求,无法被充分满足。

AI大模型想要在千行万业中落地,迫切需要改变生产模式,从编程人员的“职人技”,变成普通开发者也能进阶搞定的“超级工作台”。

这正是“元脑企智”EPAI想要解决问题,从售前手搓“元小智”来看,确实做到了。怎么把AI应用开发的门槛打下来,浪潮信息用了三步:

第一步,细致拆解,所以全面。通过细致拆解,搞清楚AI应用开发工作流的每一步都包含哪些内容,以及每一个环节可能遇到的开发难点是什么。举个例子,“元脑企智”EPAI的工具颗粒度,细致到了每一个开源或闭源模型怎么调,每一个问答对怎么构建,这就减少了开发者在AI应用开发中遇到问题而中途放弃的可能性。

第二步,标准化,所以高效。拆解完成之后,“元脑企智”EPAI对AI开发中可以被自动化、标准化的步骤,进行了工具研发,比如数据准备、模型训练、知识检索、应用框架等,都有趁手的工具,减少开发工作量,提高开发效率,缩短开发周期。

第三步,全链贯穿,所以提质增速。我们都知道,全链路贯通可以发挥出1+1>2的效果,让生产效率指数级增长。试想一下,如果开发者不得不在A工具上清洗数据,在B平台上训练模型,在C平台上进行部署,中间会带来多少兼容性问题、中断和等待?所以,AI应用开发必须全链路贯通,“元脑企智”EPAI端到端开发平台的特性,让企业人员的AI应用开发过程畅通无阻,真正提高生产力,发挥出提质增速的实效。

当将AI应用开发变成“超级工作台”,千行百业的创造力才能被充分释放出来,真正拥抱AI和大模型,开启规模化普及时刻。

所以,元脑企智EPAI可能是AI应用最理想的生产工具。

科幻电影中,人类社会遭遇的许多危机,最终都只有靠人的创造力、勇气与情感才能应对。钢铁侠需要多个AI助手,来让自己更专注于跟伙伴合作、解决复杂问题。

从这个角度讲,越来越多的人凭借元脑企智EPAI,加入AI应用开发的行列,化身智能时代的“超级英雄”,我们将会进入一个人类创造力大爆发、AI生产力大爆发的全新阶段,将曾经和未来的危机都一一解决,人机协作的新世界会更美好。