首页 > 关于我们 > 新闻中心 > 源大模型AIPC助手YuanChat焕新!12种文档+联网检索,构建个人知识库!

源大模型AIPC助手YuanChat焕新!12种文档+联网检索,构建个人知识库!

2024-08-26

这个世界上的大模型有许多,但独属于你的「本地AI助理」并不多。

超高“模算效率”的源2.0-M32大模型开源开放以来,已经在诸多伙伴企业内进行了内测上岗,收获了医疗、金融和IT等行业伙伴的一众好评!

对于不想在开发环境中使用大模型的“源”粉们来说,如何能够在自己的PC上更方便地获取和使用M32大模型的智能力呢?

现在!AI PC大模型效率工具YuanChat全面升级!简洁直观的交互界面,搭配联网搜索、搭建个人知识库(RAG)、模型参数个性化定制等丰富强大的插件功能,让你在个人PC上可以轻松部署和使用“源2.0-M32”大模型,完成各类编程、数理计算、文档解析和公文写作等任务,激发你的创造力和生产力!

YuanChat下载教程

下载地址:https://github.com/IEIT-Yuan/YuanChat/blob/main/docs/YuanChat%E9%80%9A%E7%94%A8%E7%89%88%E6%9C%ACV0.5.md

配置需求:

无需GPU,单CPU即可运行

可使用内存:4GB 以上

系统: windows10/11  64位

高敏业务无忧  在本地环境中安全、高效地使用M32完成任务

源2.0-M32具备超高的模算效率,在算力需求仅为1/19的情况下,性能全面对标Llama 3-70B,对大模型运行部署的硬件要求大幅降低。

现在,无需GPU,您在单CPU环境下即可轻松简单地部署YuanChat以使用源2.0-M32大模型,所有交互数据均在本地处理,无需担心数据泄露的风险。这对于涉及核心代码、金融数据处理等敏感业务的场景来说,提供了一种既安全又私密的大模型应用方案。

1.png让M32大模型在您的本地PC上完成任务,无需担心数据泄露风险

构建个人知识库  让M32学习和管理您的海量文档知识

在YuanChat上,只需点击鼠标就可以将本地存储的丰富文档资源文件转化为一个高度定制化的个人专属知识库。YuanChat内置多种向量模型(Embedding),可以支持包括pdf、docx、pptx、txt、html、htm、md、json、jsonl、epub、mobi、xml在内的12种文档。

您可以与M32大模型基于特定的知识库进行对话,通过接入和学习和专属知识库内容,M32能够更加精准地理解和回应查询,显著提升任务处理的准确性和可靠性。

2.jpg

640.jpg让M32大模型基于你的知识库完成搜索、总结和生成任务

联网检索  让M32与世界即时同步

YuanChat支持谷歌(serper)和bing两种方式进行网络检索,打开网络检索插件,即可让M32大模型访问互联网,在全网为您检索并总结相关信息,精准获取信息,高效完成任务。

3.png

个性化定制模型参数  让M32大模型更适合您的任务

YuanChat提供了丰富的参数设定功能,支持在使用M32大模型的过程中根据任务情况自定义生成文本长度、生成文本多样性、生成下一个词之前考虑的备选词数量,使得用户能够精细调节大模型的创造性、可靠性、速度和成本,从而更加灵活高效地利用M32大模型的强大能力。

4.png

探索大模型能力的多种边界

One More Thing

YuanChat支持API Server功能,可将模型能力以及YuanChat的功能(Rag检索、敏感词识别、网络检索等)接入已有的应用平台。模型输出数据支持openAI格式,使开发人员更好理解,降低二次开发成本和对接工作量。

5.png一键开启/关闭API Server功能,设置API Server服务的端口号