Kunal Ganglani
PulseAugur coverage of Kunal Ganglani — every cluster mentioning Kunal Ganglani across labs, papers, and developer communities, ranked by signal.
-
假的 REA 仓库分发了木马,凸显了 AI 代理中的安全风险
在 REA 开源项目中发现了一个安全漏洞,REA 是一个允许编码代理反向工程二进制文件的 MCP 服务器。一名恶意行为者创建了一个同名但假的 GitHub 仓库,并复制了 REA 的 README,分发了一个被木马化的 Windows 可执行文件。Microsoft Defender 标记了该恶意软件,在问题被报告并由 REA 维护者解决之前,已有超过 170 名用户下载了它。文章提供了八项检查来验证 MCP 服务器和软件包的真实性,…
-
提示词工程手册详述5种关键模式,以实现可靠的AI代理
Kunal Ganglani开发了一本包含100多个可重用提示词的提示词手册,这些提示词被归类为五种关键模式,可显著提高AI输出的质量和可靠性。这些模式包括用于复杂推理的思维链(Chain-of-Thought)、用于风格和格式的少样本提示(few-shot prompting)、用于分解任务的提示链(prompt chaining)、用于AI辅助提示优化的元提示(meta-prompting)以及用于确定性结果的约束输出提示(con…
-
WhatsApp AI 代理面临超越教程的生产障碍
为 WhatsApp 构建 AI 代理在实际生产中面临着超越简单教程的重大挑战。开发者经常会遇到 WhatsApp 严格的消息限制,每天仅限于 250 个独立用户,这可能会悄无声息地阻止消息传递并损害企业的质量评分。此外,Meta 对外发营销消息的每条消息定价模式可能导致意外成本,费率因国家和消息类别而异。文章强调,成功实施需要仔细规划消息队列、分级晋升以及理解 Meta 的定价结构,这些方面在入门指南中常常被忽略。
-
新研究表明,提示注入仍是顶级大语言模型漏洞
arXiv上的一篇新论文详细介绍了针对开源大语言模型的提示注入攻击,发现Stablelm2、Mistral和Vicuña等模型极易受到攻击。该研究提出了攻击成功概率(ASP)指标来更好地评估这些攻击,其成功率可达90%左右。另外,一篇dev.to文章强调,根据OWASP的说法,提示注入仍然是LLM的首要漏洞,这是一个架构性问题,而不仅仅是提示工程问题。随着AI代理被赋予越来越多的现实世界工具访问权限,这种漏洞尤其令人担忧。