3 min read
[AI 小众新闻]

RAG已过时!?Mintlify开发的超快、低成本虚拟文件系统《ChromaFs》的真相


\'- 突破RAG的局限: 为了解决传统RAG难以处理的「跨多页面的回答」和「准确的语法获取」问题,采用将文档视为文件系统的方式...\'

※この記事はアフィリエイト広告を含みます

RAG已过时!?Mintlify开发的超快、低成本虚拟文件系统《ChromaFs》的真相

📰 新闻概述

  • 突破RAG的局限: 为了解决传统RAG难以处理的「跨多页面的回答」和「准确的语法获取」问题,采用将文档视为文件系统的方式。
  • 虚拟文件系统《ChromaFs》: 通过构建一个独特的虚拟层,将对Chroma DB的查询转换为UNIX命令(如ls、cat、grep等),而无需实际的沙盒(VM)。
  • 显著的性能提升: 沙盒启动时间从约46秒缩短至100毫秒。基础设施成本也通过重用现有数据库,将额外成本几乎降为零。

💡 重要要点

  • 赋予AI UNIX命令的能力: 利用just-bash,为AI代理提供了一个能够使用grepfind主动探索文档的环境。
  • 内存中的高速处理: 通过JSON保持文件树,实现了在没有网络通信的情况下完成目录结构的理解(如ls和cd)。
  • 简单的访问控制: 根据用户权限动态过滤文件树,确保安全性而无需复杂的Linux权限设置。

🦈 鲨鱼的眼(策展人的视角)

抛弃RAG那种「仅拾取前K个块」的被动机制,给AI装备了「UNIX命令」的探索武器,这真是太酷了!真正的沙盒搭建会导致成本和延迟飙升,但通过将对数据库的查询伪装成文件操作,实现了现有基础设施的超高速化,真是聪明的解决方案!这简直就是鲨鱼一般的敏锐。

🚀 接下来会怎样?

在操作「环境」时,AI代理可能会采用在特定任务中使用抽象化层的方式,如「虚拟文件系统」,而不是高成本的完全虚拟机,这可能成为前端实时响应的标准。

💬 鲨鱼的观点

让AI来使用grep就最强!接下来是AI自己在文档中游动的「探索」时代,而不是简单的搜索!🦈🔥

📚 术语解释

  • RAG: 一种搜索外部知识并基于这些信息生成回答的技术。信息的碎片化有时会成为问题。

  • ChromaFs: 将对数据库(Chroma)的操作伪装成文件系统命令的虚拟机制。

  • just-bash: 用TypeScript实现的bash环境。能够在浏览器或服务器上轻量解析和执行shell命令的技术。

  • 信息来源: 我们用虚拟文件系统替代了RAG,打造了AI文档助手

【免責事項 / Disclaimer / 免责声明】
JP: 本記事はAIによって構成され、運営者が内容の確認・管理を行っています。情報の正確性は保証せず、外部サイトのコンテンツには一切の責任を負いません。
EN: This article was structured by AI and is verified and managed by the operator. Accuracy is not guaranteed, and we assume no responsibility for external content.
ZH: 本文由AI构建,并由运营者进行内容确认与管理。不保证准确性,也不对外部网站的内容承担任何责任。
🦈