PulseAugur
实时 19:31:17
实体 How Much Do LLMs Hallucinate in Document Q&A Scenarios? A 172-Billion-Token Study Across Temperatures, Context Lengths, and Hardware Platforms

How Much Do LLMs Hallucinate in Document Q&A Scenarios? A 172-Billion-Token Study Across Temperatures, Context Lengths, and Hardware Platforms

PulseAugur coverage of How Much Do LLMs Hallucinate in Document Q&A Scenarios? A 172-Billion-Token Study Across Temperatures, Context Lengths, and Hardware Platforms — every cluster mentioning How Much Do LLMs Hallucinate in Document Q&A Scenarios? A 172-Billion-Token Study Across Temperatures, Context Lengths, and Hardware Platforms across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
1
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条
  1. TOOL · CL_177658 ·

    LLM 温度 0.0 在长上下文导致高失败率,研究发现

    一项于三月份发表的题为“LLM 在文档问答场景中会产生多少幻觉?一项跨越温度、上下文长度和硬件平台的 1720 亿 Token 研究”的最新研究,调查了温度设置对大型语言模型的影响。研究发现,在生产代码中常用的温度设置为 0.0 时,可能会导致不可用响应的显著增加,尤其是在长上下文长度的情况下。例如,在 128K 上下文中,Llama 3.1 8B 模型的温度设置为 0.0 时的失败率为 14.05%,而温度设置为 1.0 时仅为 2…