RockAI（岩芯数智）大模型：可控可信的私域知识问答系统

　　上海岩芯数智人工智能科技有限公司：RockAI(岩芯数智)是以认知智能为基础，专注于自然语言理解、人机交互的科技创新型企业，是A 股上市公司(002195.SZ)上海岩山科技股份有限公司的控股子公司，公司秉承“新科技改变生活”的理念，致力于构建自研基础 AI 大模型 + 行业垂直模型的技术结构，实现“1 个 MaaS 平台，多种应用场景”策略，打造客户信赖的认知智能平台。

　　概 述

　　私域知识问答系统是一种旨在满足特定组织或团队内部需求的智能信息获取工具。其产品形式包括：知识问答、企业助理、办公助手、智能客服、数字员工等。岩芯数智通过自研构建可控可信的通用大模型，缓解了行业中大模型幻觉问题，提升模型的精准问答能力，回答准确率达到 90%，目前已在多家企业内部部署应用。

　　需求分析

　　信息是解决问题的基础，在企业和组织内部，员工和团队通常需要访问特定领域的知识和信息，以解决问题、获得支持或做出决策。传统的知识库和文档系统可能存在检索和更新的问题，导致信息不易获取。

　　在传统的知识获取中，用户将知识库放入到全文索引库中，然后用户利用关键词获取全文检索的结果，即属于当前传统搜索引擎的模式，该模式下主要存在以下两方面的问题：

　　全文检索的方式需要关键词精准命中，对用户的输入要求更高。

　　全文检索命中的是相关性，只是找到答案附近的文本，无法精准定位答案。

　　本私域知识问答系统的背景是通过结合岩芯数智可控可信的通用大模型，提供一种更智能、互动和高效的方式来访问和共享知识。

　　案例介绍

　　主要能力：

　　知识管理

　　私域的知识问答系统具有强大的知识管理能力，允许用户创建、编辑和组织知识文档、常见问题解答(FAQ)、操作手册和培训材料等;

　　多轮点的知识问答

　　系统提供高效的问答功能，用户可以轻松查找所需的信息，以减少时间浪费和提高生产率;

　　权限管理

　　系统提供灵活的权限管理，确保只有授权人员可以访问和编辑特定的知识文档，以维护知识的安全性和可维护性。

　　技术创新：

　　技术上为缓解大模型的幻觉问题以及提升模型回答问题的准确性，岩芯数智专研模型的可控可信能力。模型结构采用岩芯数智完全独立自研的可线性计算的自然语言关联特征表示模型，相比基于 Attention 机制的 Transformer 架构大模型，可大幅度的提升模型训练效率和应用效果。

　　图 4 与图 5 是相近参数量下，针对同一任务的训练，标准 Transformer 模型与岩芯数智自研模型的 loss 变化趋势。

　　图 4 为基于 Transformer 架构的预训练模型在训练集和验证集上的损失值表现情况，图 5 为岩芯数智自研大模型。可以发现在训练 100 个 epoch 下，岩芯数智自研模型已经出现过拟合的现象，其中验证集中的最低损失值在 3.5 左右，而基于 Transformer 架构的大模型，在 100 个 epoch 下未完成收敛，且验证集中损失值依然在 4 以上。

　　上述也表明改进后的模型具备更快的收敛效率，基本上在第 10 个 epoch 下就达到了最佳状态，因此收敛效率远高于 Transformer 架构。

　　实施效果：

　　提高生产力

　　处于私域的人员能够更快地找到所需的信息，解决问题，减少工作中的困惑，从而提高生产力;

　　知识共享

　　促进了内部知识共享和协作，有助于打破信息孤岛，使组织更加协调一致;

　　风险降低

　　通过更好的知识管理，组织可以减少风险，提高合规性。

　　应用落地情况：

　　本私域的知识问答系统已经在多家企业内部落地，回答准确率达到 90% 以上。

　　效益分析：

　　经济效益

　　私域的知识问答系统有助于提高生产力和效率，减少支持部门的负担，降低了组织的运营成本;

　　商业模式

　　通过许可付费、订阅付费以及自定义解决方案三种方式实现用户付费;

　　应用推广前景

　　企业内部应用：私域的知识问答系统在企业内部可以用于知识管理、员工培训、问题咨询以及改善组织内部的工作流程;

　　教育领域：学校、大学和教育机构可以本系统来改善教育过程，促进学生之间和教师之间的知识共享，提高教育质量;

　　医疗健康领域：可以提高医疗专业人员之间的知识共享，改善患者护理，提高医疗服务质量;

　　私域的知识问答系统可以在各种领域都有广泛的应用，为组织带来经济效益、社会效益，同时提供多样化的商业模式选择。