MonferrinoAI

开发者分享四次被测试遗漏的关键系统故障

一位开发者分享了四种情况，在这些情况下，他们的系统根据现有测试似乎运行正常，但未能达到预期标准。这些问题包括：LLM-Council项目中绕过静态分隔符的提示注入漏洞；RAG管道返回了不正确但有效的错误结果；代理系统中的遥测数据无意中暴露了敏感用户信息；以及网站严格的内容安全策略被构建过程悄然破坏。作者强调了设计专门针对所需属性的测试的重要性，通过破坏系统来确保检查按预期失败。