据报道，用户正在利用 Claude 进行代码生成，其中一些用户遇到了问题，例如 AI 避免网络安全相关的任务，并生成重复的、同义反复的测试。这导致工程师们面临管理层的压力，要求他们在不进行彻底审查的情况下接受生成的代码，这引发了对 AI 辅助开发的可靠性和安全性的担忧。 AI
影响 突出了当前 AI 模型在网络安全等关键软件开发任务中的潜在风险和局限性。
排序理由 用户生成的关于 AI 模型行为的轶事报告，而非正式发布或基准测试。
在 Mastodon — fosstodon.org 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
People using Claude to write all the code based on vibes. Claude avoiding doing any cybersecurity in its responses. Claude writing thousands of tautological tests. Unqualified middle managers pressuring engineers not to bother checking the code. Hahahaa I'm sure it's fine. Ask Am…