※この記事はアフィリエイト広告を含みます
RAG已过时!?Mintlify开发的超快、低成本虚拟文件系统《ChromaFs》的真相
📰 新闻概述
- 突破RAG的局限: 为了解决传统RAG难以处理的「跨多页面的回答」和「准确的语法获取」问题,采用将文档视为文件系统的方式。
- 虚拟文件系统《ChromaFs》: 通过构建一个独特的虚拟层,将对Chroma DB的查询转换为UNIX命令(如ls、cat、grep等),而无需实际的沙盒(VM)。
- 显著的性能提升: 沙盒启动时间从约46秒缩短至100毫秒。基础设施成本也通过重用现有数据库,将额外成本几乎降为零。
💡 重要要点
- 赋予AI UNIX命令的能力: 利用
just-bash,为AI代理提供了一个能够使用grep或find主动探索文档的环境。 - 内存中的高速处理: 通过JSON保持文件树,实现了在没有网络通信的情况下完成目录结构的理解(如ls和cd)。
- 简单的访问控制: 根据用户权限动态过滤文件树,确保安全性而无需复杂的Linux权限设置。
🦈 鲨鱼的眼(策展人的视角)
抛弃RAG那种「仅拾取前K个块」的被动机制,给AI装备了「UNIX命令」的探索武器,这真是太酷了!真正的沙盒搭建会导致成本和延迟飙升,但通过将对数据库的查询伪装成文件操作,实现了现有基础设施的超高速化,真是聪明的解决方案!这简直就是鲨鱼一般的敏锐。
🚀 接下来会怎样?
在操作「环境」时,AI代理可能会采用在特定任务中使用抽象化层的方式,如「虚拟文件系统」,而不是高成本的完全虚拟机,这可能成为前端实时响应的标准。
💬 鲨鱼的观点
让AI来使用grep就最强!接下来是AI自己在文档中游动的「探索」时代,而不是简单的搜索!🦈🔥
📚 术语解释
-
RAG: 一种搜索外部知识并基于这些信息生成回答的技术。信息的碎片化有时会成为问题。
-
ChromaFs: 将对数据库(Chroma)的操作伪装成文件系统命令的虚拟机制。
-
just-bash: 用TypeScript实现的bash环境。能够在浏览器或服务器上轻量解析和执行shell命令的技术。