实体
Yannis Belkhiter
Yannis Belkhiter
PulseAugur coverage of Yannis Belkhiter — every cluster mentioning Yannis Belkhiter across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 3
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 3
层级分布 · 90 天
主题
情绪 · 30 天
2 天有情绪数据
最近 · 第 1/1 页 · 共 3 条
-
新的函数劫持攻击威胁代理AI模型
研究人员发现了一种名为函数劫持攻击（FHA）的新型安全威胁，该威胁针对利用函数调用功能的代理AI模型。这些攻击会操纵模型的工具选择过程，强制调用攻击者选择的函数，绕过语义理解，并在不同领域和函数集中保持有效。FHA在包括指令模型和推理模型在内的各种LLM上都显示出很高的成功率，并且在不同模型大小和系列之间具有可转移性，这凸显了代理AI系统对强大安全措施的迫切需求。
-
新的TRACES框架为LLM推理实现成本效益的早期停止
研究人员推出TRACES，一个旨在为语言推理模型（LRM）标记推理步骤的新框架，以实现自适应且成本效益高的早期停止。该方法在推理过程中监控推理行为，识别在达到正确答案后发生的转变。通过分析特定的步骤类型，TRACES可以创建可解释的早期停止标准，在数学和基于知识的基准测试中实现显著的代币减少（20-50%），同时保持准确性。
-
新的 Step-Tagging 框架增强了对语言推理模型的控制
研究人员引入了一个名为 Step-Tagging 的新框架，以更好地控制语言推理模型（LRM）的生成过程。该框架使用轻量级句子分类器实时标注推理步骤，并采用一种名为 ReasonType 的新分类法。通过监控特定推理步骤的数量，可以建立有效的提前停止标准，从而在保持 MATH500、GSM8K、AIME、GPQA 和 MMLU-Pro 等基准测试相当准确率的同时，显著减少 token 使用量（20-50%）。这种方法为研究和控制 LR…