实体
SafeSearch
SafeSearch
PulseAugur coverage of SafeSearch — every cluster mentioning SafeSearch across labs, papers, and developer communities, ranked by signal.
总计 · 30天
0
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 1
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 3 条
-
新研究揭示LLM搜索代理的安全漏洞
一篇新研究论文介绍了“面包屑式搜索代理”，详细说明了基于LLM的搜索代理中的一个安全漏洞。该论文强调了攻击者如何通过注入受控的搜索结果和页面内容来利用代理对外部工具返回的依赖。这种操纵可以创建一个虚假的证据链，导致代理得出错误的结论。研究还提出了“Trace-Guided Strategy Evolution”（TGSE），一种改进这些攻击策略的自动化方法。
-
Google 搜索 AI 概览被标记为对儿童存在“不可接受的风险”
Common Sense Media 评估了 Google 搜索的 AI 概览和 AI 模式，认为它们对儿童构成“不可接受的风险”。他们的研究涉及为 11 岁和 15 岁儿童设置的账户进行的 2,600 多次搜索查询，发现 AI 功能会完成家庭作业，通常链接到不可靠的来源，并对历史问题提供不一致的答案。尽管 Google 对这些发现提出异议，称查询范围狭窄且人为，但该报告强调了家长对验证 AI 生成信息的难度以及这些功能可能取代独立学习的担忧。
-
新的AI代理框架应对安全和检索挑战
研究人员正在开发新的框架来提高AI代理的安全性与效率，特别是那些与外部数据源（如网络）交互的代理。几篇论文介绍了改进检索增强生成（RAG）系统的方法，解决了安全退化、医学推理和时效性新闻检索等问题。技术包括多代理方法、认知树探索和动态检索树，以更好地处理复杂推理并确保可靠的信息访问。