研究人员发现，大型语言模型 (LLM) 裁判中的偏见存在于模型隐藏状态的一个低维子空间中。这种偏见可以被操纵，通过沿着这个特定子空间进行引导来激活或停用它。另外，一项关于 MCP 安全扫描器的研究显示，虽然它们将高比例的服务器标记为有风险，但这些警报中不到一半是准确的，表明误报率很高。 AI
影响 理解隐藏状态中的 LLM 偏见可能导致更强大、更公平的 AI 系统，而 MCP 扫描器的发现突显了提高安全工具准确性的必要性。
排序理由 该集群讨论了关于 LLM 偏见的研究结果和关于安全扫描器警报有效性的研究，这两者都不构成主要发布、重大事件或学术研究论文。
在 Mastodon — sigmoid.social 阅读 →
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →
LLM judge bias found in hidden states, steerable in both directions Researchers find LLM judge bias lives in a low-dimensional subspace inside model hidden states, and steering along it can switch bias on and off. https://www. notatechguy.com/llm-judge-bias -found-in-hidden-state…
MCP security scanners: fewer than half of alerts valid MCP security scanners flag 96.89% of servers as risky, but a study of 64,611 servers finds fewer than half of alerts are true positives. https://www. notatechguy.com/mcp-security-s canners-fewer-than-half-of-alerts-valid/ # N…