首页 > 资讯 > 数字化

模型落地、数据本地,中国首款操作系统级端侧模型“UOS LM”发布

2024/08/09 10:45      DoNews   


  在人工智能的浪潮中,操作系统作为信息技术的基石,正经历着前所未有的变革。中国操作系统骨干企业统信软件今日在京隆重发布了其最新力作——“UOS LM”1.5B/7B端侧模型,标志着国产操作系统在AI技术融合与应用方面迈出了关键一步,与国际主流操作系统并肩站在了AI时代的潮头。

  AI端侧模型,重塑系统操作体验

  UOS LM作为统信软件倾力打造的端侧模型,其核心优势在于其强大的自然语言处理能力和DSL(领域特定语言)解析能力。面对传统自然语言处理方法在识别系统内置指令时的局限性,UOS LM采用了先进的意图识别技术,能够精准捕捉用户输入中的潜在执行意图。同时,结合向量化搜索技术,通过计算用户输入与系统指令描述之间的向量相似度,实现了对系统指令的精确匹配与执行,极大地提升了操作的准确性和效率。

  在DSL强化方面,UOS LM展现了其卓越的搜索任务处理能力。它能够智能识别用户自然语言中的关键搜索要素,如内容、文件类型、时间等,并自动生成高效的查询语句,引导文件搜索引擎快速定位并返回满足条件的文件。这一功能的引入,不仅增强了搜索的泛化性和灵活性,也极大地提升了用户体验的便捷性和直观性,让用户能够更加高效地管理和查找自己的文件资料。

  系统级优化,打造硬件友好型AI平台

  为了确保UOS LM端侧模型在统信UOS操作系统上的稳定运行和高效性能,统信软件从系统资源调度、硬件策略、模型加速框架以及用户意图预测四个方面进行了全面优化。在系统资源调度上,通过动态评估硬件资源状况,智能判断是否加载模型,有效避免了因资源不足导致的系统卡顿或宕机问题。同时,对于满足条件的硬件环境,还提供了最佳的运行方式,确保大模型能够更快更好地运行。

  在模型加速框架方面,UOS不仅提供了基于用户硬件的判断策略和选择,还实现了AI任务的批量并行封装处理。这一功能使得多应用智能的并发处理成为可能,大大提高了智能特性的整体运行效率。此外,UOS AI还通过前置意图判断功能来预测用户意图,缩小动作范围并减少提示词封装量,从而缩短了模型计算时间并优化了单次调用的执行效率。

  值得一提的是,UOS AI还针对UOS LM进行了量化处理,有效降低了模型能耗。量化不仅减少了模型的内存和显存占用,还显著降低了系统算力开销。这一举措不仅有助于提升设备的续航能力,还为用户提供了更加绿色、环保的使用体验。

  数据安全与隐私保护,筑牢AI应用基石

  在AI技术日益普及的今天,数据安全与隐私保护成为了用户最为关注的问题之一。统信软件深知这一点的重要性,因此在UOS LM的研发过程中始终将信息安全与隐私保护放在首位。通过实现AI模型的本地部署和训练,UOS LM成功摆脱了网络依赖,避免了数据上传至云端可能带来的隐私风险。同时,结合统信UOS的访问控制机制和数据加密技术,为用户提供了全方位的数据安全保障。

  在数据共享方面,UOS LM采用了先进的脱敏处理技术,确保敏感信息在传输和存储过程中不被泄露,同时支持安全的数据传输协议,以进一步加强数据在传输过程中的安全性。在第三方授权方面,UOS LM实施了严格的安全审查流程,确保只有符合安全标准的第三方应用才能获得数据访问权限,并对所有第三方应用进行签名验证,确保应用的来源可靠,防止恶意软件的侵害。

  UOS LM端侧模型是继国内领先的操作系统级AI产品UOS AI之后, 统信软件在AI操作系统领域迈出的重要一步。目前,统信软件正在将AI能力变成桌面操作系统的基础服务,统信UOS也成为唯一与国际主流操作系统在AI产品理念、技术路线齐头并进的国产操作系统。未来,统信软件将继续秉承AI内嵌、端侧优先,聚焦下一代智能操作系统的打造,引领中国操作系统技术创新。

  榜单收录、高管收录、融资收录、活动收录可发送邮件至news#citmt.cn(把#换成@)。

相关阅读

    无相关信息