新的Facebook软件创建了更智能的自然语言处理模型

Facebook Inc.设计了一个新的人工智能框架，据称它可以创建更智能的自然语言处理模型，从而生成问题的准确答案，而无需不断进行培训。

自然语言处理(NLP)是指教会计算机以了解如何解释和操纵人类语言的过程。这是AI研究中最古老的挑战之一，并且已经走了很长一段路，其模型可以微调以执行许多不同的任务，包括分析医学文本或响应客户查询。

Facebook表示，当今NLP面临的最大挑战是创建一个模型，以研究和了解其听到和阅读的内容。但是今天，它宣布通过其新的Retrieval Augmented Generation架构在该领域取得了“实质性进展”，该架构作为开源软件发布，作为其Hugging Face变压器模型库的一部分，该库可用于多种模型。自然的NLP任务。

Facebook研究人员Sebastian Riedel，Douwe Kiela，Patrick Lewis和Aleksandra Piktus在博客中表示，RAG架构是“端到端可区分模型”，将Facebook AI的密集通道检索系统与其双向和自回归变压器相结合。 序列到序列模型生成器。

RAG体系结构本质上是一种知识提取器，可以通过简单地阅读Internet上可用的文档来生成对其提出的问题的答案。Facebook的研究人员说，即使阅读的文档仅能提供正确答案的线索，也不会一字不漏地说明这一点。

他们写道：“我们在带有RAG的NaturalQuestions，CuratedTrec和WebQuestions上获得了非常出色的结果，表明可以用生成的而不是提取的读取器来实现最新的机器读取性能，”他们写道。

研究人员说，RAG在涉及知识密集型“ Jeopardy”问题时表现出色，这归功于他们认为RAG能够使用从多种来源中提取的不同信息来合成响应。

研究人员说：“有了RAG，我们就可以通过交换用于知识检索的文档来简单地控制它所知道的。” “我们通过用较旧的数据集替换了原始的Wikipedia数据集，然后询问诸如“谁是冰岛总理?”之类的问题，对这种行为进行了测试。”

RAG的答复表明，它能够根据新数据集调整其答案。Facebook的研究人员说，这种功能对于AI代理之类的应用程序来说是无价的，这些应用程序需要能够访问大量信息并确定什么是正确的信息。

对于当今的现有训练有素的模型来说，这是一个问题，因为他们需要不断地进行再训练才能保持最新状态。使用RAG，可以创建更多的自适应NLP模型，从而通过访问和了解更多最新信息来绕过再培训步骤。

研究人员说：“我们认为RAG具有广阔的潜力，这就是我们今天将其作为Hugging Face变压器库的一部分发布的原因。” “有了RAG的支持，我们相信社区将能够将基于检索的生成应用于我们已经探索过的，甚至我们还没有想到的知识密集型任务。”

星座研究公司(Constellation Research Inc.)的分析师Holger Mueller告诉SiliconANGLE，人工智能与自动化的未来息息相关，在人类交互的情况下，这意味着人们需要更好地理解自然语言。

“自然语言模型既庞大又复杂，并且对它们进行重新训练是因为世界从语言和上下文的角度来看都是缓慢而昂贵的，” Mueller说。“ Facebook对开放源代码的RAG贡献避免了重新训练模型的需要。这对于AI开发商开发下一代应用程序来说非常有吸引力。”

　　免责声明：本文由用户上传，与本网站立场无关。财经信息仅供读者参考，并不构成投资建议。投资者据此操作，风险自担。 如有侵权请联系删除！