Fides
PulseAugur coverage of Fides — every cluster mentioning Fides across labs, papers, and developer communities, ranked by signal.
2 天有情绪数据
-
Kelvra 框架利用 50 年历史的安全模型解决 LLM 提示注入问题
一位开发者创建了 Kelvra,这是一个用于 LLM 代理的新安全框架,旨在通过实施一个 50 年历史的信息流控制模型来防止提示注入攻击。Kelvra 使用标记数据和策略文件来跟踪和控制数据移动,在创作阶段标记潜在的注入漏洞。虽然它不能直接检查模型输出,并且依赖于协作式运行时,但 Kelvra 旨在为监管机构提供一个可移植的标记系统和可审计的记录。
-
新的FIDES-Live协议审计AI交易代理行为
研究人员开发了FIDES-Live,这是FIDES协议的一个扩展,旨在审计交易代理的顺序轨迹。该系统通过区分结构化决策有效性、数值承诺遵守情况、执行核对和基于收据的报告来评估行为一致性。对加密货币和股票市场交易代理的回顾性审计显示,可评分响应的决策有效性和报告准确性很高,尽管在路由层面的表现差异很大。研究还发现,当代理发出非空订单建议时,承诺遵守情况会显著下降,这凸显了将财务结果与交易技能分开报告的重要性。
-
新的 FIDES 协议衡量 LLM 交易策略的保真度
研究人员开发了 FIDES,一个旨在衡量 LLM 生成交易策略保真度的新协议。该协议将自然语言理由、可执行实现和由此产生的业绩记录视为必须协调的三个不同视图。实验表明,这些视图之间的一致性并不能预测盈利能力,大多数 LLM 策略未能跑赢简单的买入并持有规则,而且 LLM 经常错误地校准其自我评估。
-
作者提议建立世俗的“忠诚神庙”以正式化承诺
作者提议创建一个受罗马“忠诚”(Fides)概念启发的现代世俗机构。“忠诚”是罗马国家和宗教生活中核心的女神化美德。这个提议的“忠诚神庙”将作为一个场所,供个人和团体正式做出并见证重要承诺,例如“量入为出”(Giving What We Can)誓言或婚姻誓言,旨在培养真诚和终生忠诚的意识。该机构将像公证人一样务实运作,但增加了仪式和社会强化,以创造持久的回忆并阻止违背誓言,这与前现代的自我提升精神框架有相似之处。
-
新的FIDES方法通过解决检索-记忆冲突来提高RAG模型的准确性
研究人员开发了一种名为FIDES的新方法,以提高检索增强语言模型的准确性。当检索到的文档与其内部知识之间存在冲突信息时,这些模型通常会依赖其内部记忆,从而导致错误。FIDES通过在token层面分析冲突,在解码过程中进行有针对性的调整,而不是采用统一的方法来解决这个问题。该技术在上下文保真度和跨不同模型和基准的整体性能方面显示出显著的改进。