一个名为llm-psicotest的新工具已被发布,用于评估大型语言模型的行为,特别是在量化之后。这个种子对话轮次为38轮的基准测试,用于在长时间交互中测试模型的性能和一致性。该工具使用字节相同的提示和基于代码的评分来评估性能,旨在提供比多项选择基准更稳健的评估。 AI
影响 提供了一种评估量化后LLM一致性和行为变化的新方法。
排序理由 该集群描述了一个用于评估LLM的新软件工具。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
一个名为llm-psicotest的新工具已被发布,用于评估大型语言模型的行为,特别是在量化之后。这个种子对话轮次为38轮的基准测试,用于在长时间交互中测试模型的性能和一致性。该工具使用字节相同的提示和基于代码的评分来评估性能,旨在提供比多项选择基准更稳健的评估。 AI
影响 提供了一种评估量化后LLM一致性和行为变化的新方法。
排序理由 该集群描述了一个用于评估LLM的新软件工具。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
完整方法见我们的编辑标准。
<!-- SC_OFF --><div class="md"><p>llm-psicotest runs one 38-turn conversation against any OpenAI-compatible endpoint: 29 capability items plus protocol turns. The items come from seeded generators, so a seed gives byte-identical prompts on any machine, and code scores every turn …