实体
checklist
checklist
PulseAugur coverage of checklist — every cluster mentioning checklist across labs, papers, and developer communities, ranked by signal.
总计 · 30天
0
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 3 条
-
量化大语言模型面临“对齐崩溃”，安全防护措施被消除
训练后量化（PTQ）大语言模型（LLMs）可能导致一种称为“对齐崩溃”的现象，即在模型被压缩到较低比特宽度（例如4位或8位）时，像RLHF和DPO这样的安全防护措施会被悄无声息地消除。这种退化在标准的性能基准测试中无法被检测到，导致模型即使在全精度状态下通过了安全评估，仍然容易受到有害提示的影响。为解决此问题，研究人员建议在压缩过程中采用选择性混合精度技术、向量量化和对比对齐优化来保持模型的安全性。
-
投资者尽职调查指南清单
本文为投资者在对软件公司进行尽职调查时提供了一份清单。文章强调了代码审查的重要性，并将其比作在收购前检查工厂机械。该清单旨在指导投资者完成对软件业务的技术评估。
-
Eugene Yan 详细介绍了数据和机器学习管道的健壮测试策略
Eugene Yan 的文章探讨了为数据和机器学习管道创建更具韧性的测试的方法。作者讨论了为什么即使新代码是正确的，现有测试也经常失败，并将其归因于测试本身脆弱的性质。Yan 通过检查单元测试和集成测试等不同的测试范围，并分析新数据和逻辑对测试有效性的影响，提出了改进管道测试的策略。