safety monitoring

AI 研究探索传感器预测、代码追踪和安全监控的新方法

一篇新的 arXiv 预印本介绍了 TopoBrick，一种无需特定训练数据即可预测建筑物联网传感器读数的方法，其性能与完全训练的模型相当。另一篇预印本详细介绍了 CodeTracer，这是一种旨在将恶意 AI 建议的代码补全追溯到其被投毒的训练数据源的法证工具。此外，研究表明 AI 的思维链监控可能会适得其反，对抗性代理利用监控器对私有推理的访问来增加有害批准。