PulseAugur
中
实时 01:04:31
实体 send_email

send_email

PulseAugur coverage of send_email — every cluster mentioning send_email across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
6
90 天内 10
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
情绪 · 30 天

2 天有情绪数据

最近 · 第 1/1 页 · 共 10 条
  1. RESEARCH · CL_341814 ·

    研究发现:AI代理在大型工具菜单中难以选择工具

    一项实验显示,当面临大量选项时,AI代理在工具选择方面存在困难。随着工具数量从5个增加到50个,原始准确率显著下降,但经过机会校正的分析表明,该代理在区分正确工具和随机猜测方面相对有所改善。然而,在更大的菜单规模下,该代理频繁选择与请求无关的工具,其中一个特定工具“find_contact”在大多数不相关的选择中被错误选中。

  2. TOOL · CL_325486 ·

    reskSecure推出LLM防火墙以防止PII泄露

    一款名为reskSecure的新型安全工具已被推出,用于保护客户支持AI助手免遭敏感数据泄露。该工具充当LLM防火墙,在令牌预测级别阻止禁止的短语和未经授权的工具调用,然后才生成它们。本教程演示了如何通过定义具有权限位掩码的策略并将logits处理器加载到生成管道中来集成reskSecure。

  3. TOOL · CL_311709 ·

    AI 代理可以通过幂等性键避免发送重复邮件

    本文讨论了 AI 代理开发中的一个常见挑战:在网络连接失败时防止发送重复邮件。作者是 Hail 的创始人,他解释说,超时并不一定意味着邮件发送失败,简单地重试会导致重复。提出的解决方案是使用幂等性键,它就像每条消息的唯一收据号。通过在发送前保存一个自定义键并在重试时重复使用它,Hail MCP 等服务可以识别并防止重复操作。文章还强调了维护已发送消息的外部记录的重要性,包括其确切内容和状态,以有效管理重试并区分已接受和未知状态。

  4. TOOL · CL_299007 ·

    AI 代理安全:将重点从提示词转移到工具权限

    这组文章讨论了 AI 代理的安全性,强调主要漏洞不在于提示词操纵,而在于授予代理的广泛权限。核心问题是,代理(将模型与工具执行循环结合起来)可能被不可信的输入引导,滥用其现有凭据和工具。建议的解决方案是在工具边界实现每次调用的授权,确保每次工具调用都根据调用者身份、工具范围和任务上下文进行严格策略评估,并采取默认拒绝策略。

  5. TOOL · CL_297277 ·

    新的200行代码工具验证AI代理的行为,而不仅仅是输出

    一个名为agentverify的新Python工具,代码量约200行,已被开发出来,用于检测AI代理是否通过其工具泄露数据,这是基于输出的标准测试通常会遗漏的一个漏洞。该工具通过在工具调用边界独立验证代理的行为来运行,而不是依赖代理报告的输出。这种方法旨在通过检查实际的副作用,如秘密泄露,来提供对代理安全性的更准确评估,即使代理的文本响应表明成功。

  6. TOOL · CL_283446 ·

    新的LLM-RedKit工具针对具身提示注入漏洞

    一款名为LLM-RedKit的新型开源工具已被开发出来,以应对针对AI代理的提示注入攻击不断演变的威胁。与之前专注于静态提示的工具不同,LLM-RedKit专门测试具身提示,这些提示可以通过将恶意命令伪装成常规任务来欺骗模型执行意外操作,例如发送电子邮件或删除用户。该工具支持各种代理框架,并提供详细报告,将发现与OWASP LLM Top 10和MITRE ATLAS等既定安全框架进行映射。

  7. TOOL · CL_221467 ·

    AI智能体需要超越简单重试的复杂错误处理机制

    构建一个健壮的AI智能体,需要的不仅仅是简单的失败重试机制。智能体必须能够区分不同类型的错误,例如瞬态网络问题、输入参数验证问题或授权失败。通过对失败进行分类并提供结构化反馈,智能体可以在如何进行下一步操作方面做出明智的决定,无论是重试操作、纠正参数还是寻求用户输入,从而朝着更可靠的分布式系统工程迈进。

  8. TOOL · CL_195620 ·

    AI代理获得工具访问权限会带来安全风险;已概述缓解策略

    赋予AI代理对函数调用、代码解释器或API等工具的访问权限会带来重大的安全风险,因为模型无法可靠地区分指令和数据。这意味着提示注入攻击可能导致代理执行未经授权的操作,例如窃取数据或执行恶意代码。为缓解这些风险,开发人员应严格限制工具功能范围、在服务器端验证所有参数、在模型外部强制执行授权、要求对不可逆操作进行人工确认,并对执行代码或联网的工具进行沙箱隔离。

  9. TOOL · CL_135715 ·

    LLM 代理需要结构化的邮件合同以实现更好的调试和操作

    本文讨论了为 LLM 代理执行的邮件操作定义清晰合同的重要性,而不是仅仅关注提示。文章认为,一个定义良好、版本化的邮件合同,包括操作类型、版本、模板 ID 和跟踪 ID 等字段,可以提高操作清晰度和调试能力。这种结构化的方法有助于将代理的决策制定与发送邮件的执行分离开来,从而实现更健壮和可维护的自动化系统,这得到了 DORA 2024 报告中关于操作反馈循环的发现的支持。

  10. TOOL · CL_111495 ·

    MCP Trust Pack 为 AI 代理工具调用添加安全层

    MCP Trust Pack 是一个新安全层,旨在增强 MCP 框架内 AI 代理工具调用的安全性。它引入了一个四层评估流程——审查、策略、同意和污点——来确定工具调用的许可性和性质。该系统可以自动分类改变状态的工具,并提供时间限制的 ScopeLeases 等功能,以对工具访问进行细粒度控制,并直接与 AEPEmitter 集成以进行证据记录。