大模型应用(一):RAG

Source

RAG(Retrieval-Augmented Generation),检索增强生成作为提升大模型性能的关键技术之一,目前已经被广泛应用。在提升模型性能、定制模型个性化等方面具有很好的效果

RAG技术

  • 多数原生大模型可能具有很强的能力,但难以通过精准的问题描述给出准确的答案
  • 大模型的分析能力在缺少全面的分析对象时,难以给出很好的分析结果

RAG方案

  • 将背景制作生成对应的。形成检索向量
  • 输入问题先经过的信息拾取,将拾取的信息一并作为背景知识,送入大模型进行分析

RAG结合GCN的应用

  • RAG形成的思维库通常是文本类型的或者描述类型的,在处理非结构化数据时常常遇到困境
  • 结合GCN,可以快速将不同维度的信息拾取出来。然后将GCN信息通过文本或者类文本的信息统一表达,形成新的信息输出