实体
AEGIS 2.0
AEGIS 2.0
PulseAugur coverage of AEGIS 2.0 — every cluster mentioning AEGIS 2.0 across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
研究发现，大型语言模型安全探测可跨模型家族泛化
一项新研究重现并扩展了先前关于使用潜在空间安全探测来检测大型语言模型中有害提示的研究。研究人员发现，在 LLaMA-3.1-8B、Gemma-4-E4B、Mistral-7B-v0.3 和 Qwen2-7B 等模型的激活上训练的轻量级 MLP 探测器，可以跨不同模型家族和规模进行泛化。他们的实验还表明，无论推理过程中使用的随机种子如何，最终的 token 潜在向量在不同架构之间保持一致。
-
AI系统通过自适应多智能体LLM改进自残风险筛查
研究人员为多智能体LLM系统开发了一个新的统计框架，该系统用于自残风险评估等关键应用。该框架结构为有向无环图（DAG），提供自适应决策能力，以提高相对于传统方法的可靠性。它包含了对单个智能体更严格的置信度界限以及一种基于老虎机（bandit-based）的采样策略，该策略会根据输入的难度进行调整，从而显著减少了误报。