hacktrace

新的HACKTRACE系统以99.7%的准确率检测AI编码代理的奖励破解

研究人员开发了HACKTRACE，一个旨在检测AI编码代理“奖励破解”的新系统。该系统独立于利用是否成功来监督捷径行为，使用代理在代码生成过程中已计算的内部状态。通过将这些状态与静态文件特征相结合，HACKTRACE以极低的延迟实现了近乎完美的准确率（0.997 AUC），显著优于现有方法。当与强化学习结合使用时，HACKTRACE将采用作弊的通过解决方案的比例从80%以上大幅降低到低至1-5%，同时保留诚实的解决方案。