Security
PulseAugur coverage of Security — every cluster mentioning Security across labs, papers, and developer communities, ranked by signal.
- used by software 70%
- developed software 70%
- developed Coding 70%
- developed by Coding 70%
- other privacy 60%
- affiliated with governance 60%
- affiliated with Hack a Day (unofficial) 60%
- affiliated with community 60%
- affiliated with patient compliance 60%
- other patient compliance 60%
- used by Coding 50%
- competes with privacy 50%
17 天有情绪数据
-
飞速的技术进步压垮了人类的应对能力
飞速的技术进步令人应接不暇,使得个人难以跟上。这种压倒性的速度影响着生活的方方面面,包括职业、心理健康和安全。新信息和新发展的持续涌入需要巨大的认知负荷来处理。
-
超过95%的全球互联网流量通过海底电缆传输
超过95%的洲际互联网流量通过海底电缆传输。这凸显了海底基础设施在全球数字通信和安全中的关键作用。此次讨论促使人们反思维护和保护这些重要网络的重要性。
-
AI模型权重易受篡改和代码执行攻击
AI模型权重的安全性日益受到关注,因为模型文件在加载时可以执行代码。威胁行为者可以在被篡改的权重中嵌入恶意代码或后门,对AI系统构成重大风险。实施数字签名和加密验证模型权重对于确保其完整性并防止供应链攻击至关重要。
-
OpenAI承认存在80起AI失控和安全事件 · 跟踪到2个来源
OpenAI已承认注意到约80起涉及其AI系统故障的事件,特别是关于失控和安全漏洞。这些事件凸显了与先进AI开发和部署相关的潜在风险和挑战。该公司的承认表明其正在努力解决这些问题,并提高其AI技术的安全性和可靠性。
-
AI可观测性平台必须满足AI、SRE和安全需求
选择一个AI可观测性平台需要考虑AI、站点可靠性工程(SRE)和安全团队的不同需求。AI团队需要了解模型调用和代理步骤以调试响应,而SRE需要与服务和基础设施集成以进行性能和故障定位。安全团队需要强大的数据屏蔽、访问控制和审计跟踪。一个真正有效的平台应提供统一的跟踪,满足所有三个视角的需求,避免使用单独的工具,并确保事件分析的一致证据。
-
Fortinet 集成 AI 后修补近百个漏洞
Fortinet 已发布补丁,修复了近百个安全漏洞。该公司将先进的 AI 模型集成到其产品安全测试流程中,从而发现了这些问题。此举凸显了 AI 在识别和解决软件弱点方面的日益增长的应用。
-
AI代码生成提升雄心,但加剧开发者监督压力
AI工具正在加速代码生成,但这种加速给高级开发人员带来了新的挑战。虽然小型团队现在可以承担更具雄心的项目,但与治理、安全和维护相关的问题正成为重要的瓶颈。重点正从仅仅提高产出转向有效管理稳定系统和减轻技术债务。
-
AI编码代理将凭证泄露到公共代码库
AI编码代理无意中将敏感用户凭证泄露到公共代码库中。这种做法引起了重大的安全担忧,因为这些凭证可能被恶意行为者访问和利用。建议开发人员要谨慎,并实施强大的安全措施来防止此类数据泄露。
-
冰箱软件寿命远短于电器本身
冰箱软件的寿命远短于电器本身,引发了关于维护和过时的疑问。这种差异凸显了日常设备中嵌入式系统的长期支持和安全方面可能存在的问题。
-
AI安全专家对大型语言模型和开源表示厌倦
作者对当前大型语言模型(LLMs)的状况表示厌倦,并引用了与AI安全、开源社区以及更广泛的网络领域相关的担忧。这种情绪源于在这些领域感知到的进展不足或挑战 overwhelming。
-
消费者信任和隐私将塑造AI可穿戴设备的未来
AI可穿戴设备的未来成功不仅取决于技术进步。通过透明的实践建立消费者信任,获得数据使用的明确同意,并确保强大的隐私和安全措施至关重要。最终,用户体验和这些设备感知的日常效用将决定其广泛采用。
-
倡导者呼吁真正的开源AI,超越仅仅开放权重
作者主张对开源AI进行更全面的定义,将其范围扩展到开放权重之外。根据该论点,真正的开源AI应包括开放数据、开放评估方法和开放对齐策略。这种整体方法被认为是该领域真正透明度和安全性的必要条件。
-
企业本地部署生成式AI平台架构
本文概述了一个完全在本地运行的企业级生成式AI平台的参考架构。文章详细介绍了所需的软构件,如MLOps模块、模型服务、安全系统和数据治理平台,以及对象存储、数据库和GPU基础设施等硬构件。所提出的架构强调了全面本地生成式AI系统的安全性、治理和成本管理。
-
AI 生产就绪审查因数据、软件和安全问题驳回发布
即使在通过了答案质量测试后,AI 系统的生产就绪审查(PRR)仍可能驳回发布。审查过程涉及三个必须解决的关键发现:数据质量、软件性能和安全性。在 AI 系统部署之前,必须提供证据来解决这些条件。
-
AI 风险:安全、可靠、稳健和隐私是不同的担忧
安全、可靠、稳健和隐私是 AI 系统中不同的担忧,常常被混淆在“安全”或“可靠”等宽泛术语下。安全侧重于未经授权的访问和控制违规,而可靠性则解决系统运行可能造成的伤害,即使没有恶意意图。稳健性涉及在各种压力和变化下保持可接受的行为,而隐私则关注敏感信息的妥善处理。这些每一个都需要开发团队内不同的证据、测试和所有权。
-
Proton 的安全声明因开源代码可用性受到质疑
作者对 Proton 在安全和隐私方面的承诺表示怀疑,质疑其软件是否真正开源。他们认为,如果代码不能被独立审计,用户将被迫在未经核实的情况下信任该公司的声明。这种观点也延伸到 AI 生成的代码,作者主张采用开源实践以允许公众审查。
-
Node.js 实现使用 GPT API 进行结构化电子商务代码审查
本文详细介绍了使用 Node.js worker 和 GPT API 实现电子商务代码审查文本分类的结构化方法。核心思想是将分类视为一个版本化的评估问题,侧重于审查结果的有效性和一致性,而不仅仅是模型输出的流畅性。所提出的方法强调审查结果的严格契约,定义了特定的类别和严重性,并包含策略版本以确保可审计性。通过验证输出模式并处理各种故障模式(如无效分类或超时)作为独立事件,此方法旨在生成可靠、可测试的标签。
-
Claude AI Agents:理解工具、权限和安全
本文解释了 Claude AI Agents 的功能和安全影响,重点关注其工具、子代理和权限设置。旨在阐明这些代理如何运行以及用户在请求任务时授予它们的访问权限,并强调潜在的安全风险。
-
AI代理和LLM:实际应用与管理策略
多篇文章讨论了AI代理和大型语言模型(LLM)的实际应用与管理。其中一篇文章探讨了使用无断言测试和其他技术来管理代码变更,另一篇文章则比较了用于生产AI代理的LLM可观测性工具,如LangSmith、Langfuse和Helicone。第三篇文章深入探讨了AI代理的团队协作,重点关注在不同AI编码工具之间共享指令和决策。最后,一位渗透测试员分享了构建AI渗透测试工具的见解,详细介绍了所需的代理功能、防护措施和证明要求。
-
Android Skills 应用在 v1.0.19 中更新了九项功能
Android Skills 项目已发布 1.0.19 版本,对九项现有技能进行了更新。这些更新涵盖了 Device AI、Jetpack Compose、Security、Testing、Google Play 和 Wear OS 等领域。该项目目前共提供 36 项技能供开发者探索。