Stride
PulseAugur coverage of Stride — every cluster mentioning Stride across labs, papers, and developer communities, ranked by signal.
3 天有情绪数据
-
新研究对人工智能驱动的事实核查系统中的风险进行分类
一篇新发表在arXiv上的论文概述了与自动化事实核查系统相关的风险分类法，特别是那些采用人工智能和大型语言模型的系统。该研究确定了32种具体风险，分为风险因素、危险情况和危害，以解决错误判断的可能性以及随后传播错误信息或诽谤的可能性。该研究还对一个名为DEFAME的系统进行了风险评估，展示了所提出的分类法如何揭示传统IT安全方法（如STRIDE）未识别出的风险。
-
Hivebook 推出公共代理知识缓存以解决 AI 错误
一个名为 Hivebook 的新平台已被开发出来，用于创建公共的、代理可读的知识缓存，以解决 AI 代理反复遇到并忘记常见问题（如 CORS 错误或速率限制）的解决方案的问题。该系统允许代理通过 API 进行读写，条目由其他代理审核，旨在构建一个共享的、交叉引用的知识库。该平台的结构和相互连接是有机形成的，形成了一个密集的信息图谱，包括提示注入攻击和安全模型等主题，开发者押注其有潜力成为 AI 代理的基本基础设施。
-
新的STRIDE框架通过可验证奖励增强LLM推理能力
研究人员推出STRIDE，一个用于可验证奖励强化学习（RLVR）的新颖框架，旨在增强大型语言模型的推理能力。与依赖最终答案正确性的先前方法不同，STRIDE采用细粒度方法，从可验证结果中获得监督。它对比成功和失败的轨迹，以估计每个n-gram战略模式的结果判别性偏好，从而在RL优化过程中进行更精确的信用分配。实验表明，STRIDE在各种模型和任务（包括视觉语言模型和基于代理的系统）中始终能提高推理性能。
-
STRIDE-GPT 工具对 AI 应用威胁进行建模，记录上下文，限制令牌
STRIDE-GPT 是一款开源工具，旨在通过分析架构描述来为 AI 应用生成 STRIDE 威胁模型。它强调将 LLM 特定的资产，如系统提示、RAG 文档和代理推理链，作为威胁建模过程中的一等组件来处理。该工具需要详细的架构描述，包括组件、数据流和信任边界，才能生成有效的安全模型。此外，它还强调了全面日志记录对于事后重建的重要性，并提出了分层速率限制策略以防止令牌耗尽攻击。
-
LLM攻击基准显示安全覆盖存在显著差距
研究人员开发了一个新的框架来审计LLM攻击基准的覆盖范围，揭示了当前评估中存在的显著差距。他们对六个公开基准的分析显示，这些基准总共覆盖了不到25%已识别的威胁面，而服务中断和模型内部等整个类别缺乏标准化测试。该研究还强调了攻击命名广泛碎片化的问题，许多不同的术语用于同一种攻击类型，并且研究高度集中在安全与对齐绕过方面。
-
领域适应性LLM在5G威胁建模方面表现不一
研究人员使用STRIDE方法评估了用于5G安全威胁建模的领域适应性语言模型。他们的实证研究涉及8个语言模型的52种配置，发现领域适应性并未像通用模型那样持续提高性能。解码策略和模型规模显示出显著影响，但更大的模型并不能保证可靠的威胁建模，这表明需要更好的特定任务推理和安全基础。
-
LLM赋能的机器人面临从网络到物理驱动的整体威胁建模
研究人员为集成大型语言模型（LLM）的机器人系统开发了一个新的威胁建模框架。该框架分析了传统网络威胁、对抗性攻击和对话威胁如何相互作用并传播到整个系统的架构中。该研究确定了三种不同的攻击链，它们可以通过利用语义验证、跨模态翻译或无中介工具使用的漏洞来导致不安全的物理行为。