Nathaniel Gould
PulseAugur coverage of Nathaniel Gould — every cluster mentioning Nathaniel Gould across labs, papers, and developer communities, ranked by signal.
4 天有情绪数据
-
Verax Approve 要求对人工智能支出进行人工监督
Verax Approve 是一个旨在防止人工智能代理自主花费资金的系统，要求对任何金融交易进行人工批准。该系统强制执行支出上限和每日限额，批准记录并与操作员的 ID 相关联以追究责任。虽然 Verax 记录授权，但实际的资金转移仍需要单独的人工或系统操作。该系统的最新版本包括增强的 HTTP 批准安全性以及与外部透明度日志的可选集成。
-
Verax AI策略系统默认拒绝，并记录所有拒绝操作
Verax是一款AI策略执行工具，它遵循默认拒绝原则，这意味着任何未被明确允许的操作都会被拒绝。该系统会记录所有拒绝操作，为未经授权的操作尝试提供可验证的审计追踪。其策略框架旨在防止代理访问未经授权的数据或执行超出其定义权限范围的操作，即使它们尝试使用不同的工具名称。
-
Verax MCP服务器记录AI智能体工具调用和拒绝
Verax 是一款新的消息控制协议（MCP）服务器，旨在通过记录工具调用和拒绝来增强AI智能体的安全性。它充当中间人，确保每次工具交互都首先根据定义的策略进行评估，然后再执行。该系统创建了一个可验证的记录，包括允许和拒绝的操作，以及智能体、工具、规则和时间戳等详细信息，这在出现问题时对于审计和调试至关重要。Verax 还包括一个用于人工批准金融交易的机制，防止智能体直接发起支出并确保问责制。
-
欧盟《人工智能法案》日志记录规则推迟至2027年12月
欧盟《人工智能法案》对高风险人工智能系统进行日志记录的要求已推迟至2027年12月。该法规要求人工智能系统必须能够自动记录其整个运行生命周期中的事件，以便监控和追踪风险情况。目前的代理日志记录实践常常达不到要求，缺乏关键细节，例如用户的身份、确切的提示和工具调用、策略决策以及记录数据的完整性。为了满足这些要求，一个健壮的记录保存系统需要包括身份和范围、精确的请求、做出的决定（允许/拒绝）、操作的效果以及安全的签名和记录链。