实体
anonymous.4open.science
anonymous.4open.science
PulseAugur coverage of anonymous.4open.science — every cluster mentioning anonymous.4open.science across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
新的水印方法增强了大型语言模型代理的溯源能力，使其能够抵抗伪造
研究人员开发了一种名为语义行为水印（SBW）的新方法，用于将溯源信息嵌入到大型语言模型代理的行动选择中。与之前容易受到简单释义攻击或可能被伪造的方法不同，SBW基于语义行动集群，并使用带密钥的抗碰撞分箱来防止对手创建虚假轨迹。这种方法在对抗释义和伪造尝试方面表现出显著的鲁棒性提升，适用于多种代理模型和基准测试，尽管它会以水印容量为代价。
-
新基准SciHazard衡量大型语言模型科学安全风险
研究人员推出了一款名为SciHazard的新基准，旨在评估大型语言模型（LLMs）在科学领域相关的安全风险。该基准包含12个学科的2400个危险问题和600个过度安全问题，这些问题基于现实世界的危险和已记录的失败场景。SciHazard采用一种名为DeHarm-Score的分解伤害评分方法，该方法评估查询的严重性、拒绝行为以及响应级别的风险，包括可执行性和净新风险。初步评估表明，深度研究代理比标准LLMs带来更大的安全风险，这凸显了当…