software quality engineering
PulseAugur coverage of software quality engineering — every cluster mentioning software quality engineering across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
AI代码审查缺乏验证能力
AI代码审查工具不能替代严格的验证流程。虽然AI可以识别代码中潜在的问题，但它不能保证软件的正确性或安全性。构建一个独立的验证层对于确保AI生成或审查的代码符合必要标准至关重要。
-
AI 代理：如何验证供应商关于“可验证代理”的声明
“可验证代理”的概念在人工智能行业日益普及，但其含义常常模糊不清，在营销中被随意使用。真正的验证需要第三方在不信任供应商的情况下确认执行记录的完整性。买家应提出具体问题，以区分真正的验证和单纯的声明，重点关注记录是否可以独立检查，验证证明内容的具体范围，以及收据格式是开放的还是专有的。
-
新研究提出“研究合同”以用于人工智能生成的研究
一项新的研究论文提出“研究合同”来改进对人工智能生成研究的验证。这些合同会将声明的实验选择和声明范围与记录的执行证据绑定起来，将这种与合同相关的验证与科学真理区分开来。一项使用八对干净/变异样本和十八个裁判别名的诊断研究表明，当提供批准和执行的对象时，确定性检查器可以检测到变异，尽管在证据不足时裁判会弃权。
-
AI 安全提案采用 V&V 方法改进模型对齐
一项新提案建议应用验证和确认 (V&V) 方法论来增强 AI 安全性和对齐性，借鉴了芯片和自动驾驶汽车开发的经验。该方法被称为“回溯-修复-检查循环”，旨在通过恢复到稳定状态、实施改进的解决方案并在压力下严格测试它们来系统地处理事件。这种方法被提出作为一种使 AI 对齐更全面、更可追踪的方式，尤其是在应对近期涉及先进 AI 模型的安全事件时。
-
阿里巴巴发布100+个开源模型；Meta推出AI验证工具
阿里巴巴集团已发布超过100个开源模型和一款文本到视频工具，采用开源策略来推动云服务采用。另外，Meta推出了一款专门用于验证其他AI模型输出的模型，旨在定义AI生成的质量标准。