微软GraphRAG AI优化:检索效率提升,token成本大降

11月16日,科技新闻媒体WinBuzzer于昨日(11月15日)发布最新报道,指出微软研究院对GraphRAG系统进行了升级,推出了动态社区选择(Dynamic Community Selection)这一新功能。这一更新不仅提升了全局搜索的数据检索效果,同时大幅降低了处理成本,tokens成本较之前减少了77%。

据悉,GraphRAG是由微软研究院开发的一种创新检索增强生成(RAG)框架。该框架通过构建知识图谱,从非结构化文本中提取结构化数据,从而使得模型能够更有效地理解和处理复杂信息。自2024年7月2日开源以来,GraphRAG在GitHub上迅速获得了超过万次的星标关注。

新引入的动态社区选择功能,优化了知识图谱的访问方式,显著提高了响应的质量和效率。该功能通过轻量级模型GPT-4o-mini识别出与查询相关的数据部分,只有这些部分才会进入主要处理阶段,从而大幅减少计算工作负载。内部测试表明,采用动态选择后,tokens成本平均降低了77%。

此外,2024年11月发布的GraphRAG版本0.4.0还包含了增量索引和DRIFT(动态检索推理与过滤技术)模块。这些功能使得知识图谱的更新更为高效,同时提升了搜索的准确性。通过这种结构,GraphRAG能够生成更具上下文的答案,减少了传统文档系统中常见的碎片化输出问题。

发表回复