实体
AWS Security Blog
AWS Security Blog
PulseAugur coverage of AWS Security Blog — every cluster mentioning AWS Security Blog across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
研究人员演示大型语言模型中的系统提示不安全
根据一篇dev.to文章，大型语言模型中的系统提示并非安全边界，不应依赖其进行安全防护。研究人员已经展示了多种方法，包括直接提问以及更复杂的策略，如Policy Puppetry和PLeak，来从众多模型中提取这些提示。文章强调了现实世界中提取提示导致敏感信息泄露的事件，例如代号、业务逻辑甚至凭证，从而导致后续的精确越狱和凭证滥用等攻击。
-
Anthropic因零日漏洞风险限制Claude Mythos Preview发布
Anthropic已通过其Project Glasswing安全研究计划独家推出了Claude Mythos Preview，这是一个拥有百万级token上下文窗口的前沿模型。该公司表示，此次限制发布是由于该模型具有前所未有的自主发现和利用零日漏洞的能力，对数字基础设施构成重大风险。然而，一些观察家质疑安全担忧是否是唯一原因，并暗示高昂的计算成本和经济因素也可能导致了有限的访问。