Security
PulseAugur coverage of Security — every cluster mentioning Security across labs, papers, and developer communities, ranked by signal.
7 天有情绪数据
-
德国BSI发布人工智能可信度草案目录
德国联邦信息安全局（BSI）发布了一份草案目录，概述了人工智能系统可信度的标准。该文件旨在为评估和确保人工智能应用的可靠性和安全性建立标准。BSI正在就该草案目录征求公众意见。
-
独立GP Ashley Smith 筹集 2500 万美元，用于投资人工智能和安全初创公司
独立GP Ashley Smith 推出第二支基金，总额达 2500 万美元。这支新基金将专注于投资人工智能和安全领域（以及其他领域）的早期初创公司。此举标志着 Smith 继续致力于支持新兴科技公司。
-
银行快速采用人工智能，安全准备不足
金融机构正在迅速采用人工智能技术，其速度超过了必要安全措施的开发和实施。人工智能的加速整合带来了重大风险，因为目前的安保协议可能无法应对这些先进系统带来的复杂性和漏洞。人工智能采用与安全准备之间的差距凸显了银行业面临的关键挑战。
-
LLMOps 将 Evals、可观测性和安全性集成到 CI/CD 流水线中
本文详细介绍了 LLMOps 的实现，LLMOps 是专注于管理大型语言模型 (LLM) 的 MLOps 的一种专门形式。它强调将 Evals、可观测性和安全性集成到自动化的 CI/CD 流水线中，每次 GitHub 推送都会触发。该方法将提示视为代码，利用版本管理和自动化评估来确保部署前的质量和安全。与传统 MLOps 的关键区别包括提示版本控制、幻觉监控和成本管理。
-
Fastly 使用基尼系数进行 AI 驱动的边缘容量规划
Fastly 为其边缘网络开发了一种新颖的容量规划模型，该模型利用了通常在经济学中用于衡量不平等的指标——基尼系数。事实证明，与传统的机器学习模型相比，这种方法在预测游戏发布或体育赛事直播等重大事件期间的流量波动方面更有效。基尼系数有助于 Fastly 理解流量不平等，这直接影响缓存行为、CPU 利用率和整体网络余量，从而能够做出更准确的基础设施投资决策。
-
FreeBSD 使用 AI 查找和修复安全漏洞
FreeBSD 项目已启动一项新计划，利用人工智能识别和修复其操作系统中的安全漏洞。该 AI 辅助项目旨在通过主动发现和解决潜在弱点来增强 FreeBSD 的安全态势。该举措强调了将 AI 工具集成到核心软件开发和维护流程中的日益增长的趋势。
-
Fast Company 展示了应对商业和社会需求的 AI 创新
Fast Company 重点介绍了一些利用人工智能解决重大业务挑战和推动各行业发展的项目和公司。这些举措在安全、健康和其他关键领域找到了人工智能的创新应用，展示了该技术推动变革和解决复杂问题的潜力。
-
Skillshare集中管理AI代理提示，带来新的安全漏洞
Skillshare正在开发一个共享软件层来管理AI代理指令文件，允许用户从单个目录中同步超过60个AI工具的编码提示。然而，这种整合带来了重大的安全风险，因为这些技能文件中26%包含当前安全扫描无法检测到的风险模式。一个被攻破的指令文件可能会影响所有连接的AI模型。
-
里斯本ID会议将探讨葡萄牙的数字身份和人工智能
里斯本ID会议即将在葡萄牙举行，重点关注数字身份及相关技术。会议将涵盖电子钱包、开放钱包倡议以及包括网络安全和数字伪造检测在内的安全措施等议题。人工智能也是讨论的关键领域。
-
尽管提示技术先进，AI 生成代码的安全性仍令人担忧
新研究表明，虽然先进的提示技术可以影响 AI 生成代码中存在的安全漏洞的类型，但它们并不能可靠地减少这些问题的总体数量或严重性。对多种编程语言的多个 LLM 进行的评估研究发现，生成的代码经常包含关键漏洞，例如弱加密和不当的输入验证。虽然一些方法改变了常见漏洞枚举 (CWE) 的分布，但它们并未消除固有风险，这表明仅靠提示工程不足以确保安全的代码生成。
-
AI加速量子威胁对加密货币的威胁；也引用了不相关的消息
根据Mastodon的一篇文章，AI正在加速量子威胁对加密货币和安全的影响。同一篇文章还提到了不相关的消息，包括中国煤矿爆炸、户外装备和希腊降雪减少。另一篇Mastodon文章讨论了罗马尼亚导演获奖、Airbnb对密歇根州社区的影响以及中国的一种新型眼部治疗设备。
-
ADMIN Update 电子报提供每周科技新闻和文章
ADMIN Update 是一份每周免费提供技术文章和新闻的电子报。它涵盖了人工智能、DevOps、HPC、安全和工作机会等一系列主题。该电子报旨在让订阅者及时了解 IT 领域的最新动态。
-
爱尔兰团体发布开源工具以遏制大型语言模型幻觉
爱尔兰公民自由委员会开发了一个旨在减轻大型语言模型幻觉的开源工具。此举正值思科宣布重大企业重组，将裁员近4000人，并明确表示将专注于人工智能和安全领域。
-
详细介绍针对安全应用微调小型语言模型
本文探讨了微调小型语言模型的实践，并将其与大型语言模型区分开来。文章详细介绍了这一过程如何使通用模型适应特定应用，尤其是在安全领域。作者旨在提供对微调技术及其影响的全面理解。
-
Supersimple配置通过专注的代理和Conductor轨道管理简化开发工作
Supersimple是一个新的轻量级OpenCode配置，旨在简化常规软件开发任务。它利用了一组专注的代理，包括一个用于将工作路由给开发人员、探索者和编写人员等专家的协调器，并结合了用于规划和调试的本地技能。该配置旨在通过保持狭窄的上下文并实现并行专家工作来提高效率，对于多阶段项目，还可以使用基于Conductor的轨道管理。