一位开发者创建了一个免费的检索增强生成（RAG）API，该API使本地大型语言模型（LLM）能够访问维基百科上的医疗事实。该API可在hyfl.uk访问，目标是实现亚秒级响应时间，并使用约2GB的RAM。它已被证明能显著提高LLM的准确性，防止幻觉并提供正确的医疗信息，如一个示例所示，其中一个LLM在启用RAG后准确描述了Lhermitte征，而之前则给出了虚构的回答。 AI
影响 提高本地LLM在医学等专业领域的准确性和可靠性。
排序理由 开发者创建的工具发布。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
<!-- SC_OFF --><div class="md"><p>I created a simple RAG API using medical Wikipedia articles that you can point your agent to and use freely. </p> <p>It may be useful in allowing your local LLMs access to medical facts they might not be able to recall from their weights. I'm aim…