PromptTemplate
PulseAugur coverage of PromptTemplate — every cluster mentioning PromptTemplate across labs, papers, and developer communities, ranked by signal.
-
LangChain 应用易受提示注入攻击
提示注入是使用 LangChain 等框架构建的应用程序中的一个重大漏洞，用户输入可能会被操纵以覆盖系统指令。这是因为大型语言模型将所有输入（包括用户消息和系统提示）都视为一个令牌流进行处理，没有固有的信任边界。攻击者可以通过在用户输入中，甚至在应用程序检索到的数据中嵌入恶意指令来利用这一点，如果大型语言模型可以访问工具或敏感信息，则可能导致未经授权的操作。开发人员可以通过使用聊天消息角色来区分系统指令和用户输入来缓解此问题，这有助于…
-
LangChain 0.2 和 AutoGPT v0.5 增强 LLM 开发
LangChain 0.2 已发布，引入了统一的“Runnable”抽象，以简化 LLM 调用、提示和内存管理的组合。此次更新旨在通过允许开发人员使用标准的 Python 运算符链接组件来减少样板代码，并提高多步 LLM 应用程序的可维护性和可测试性。此外，AutoGPT v0.5 已发布，其特点是引入了新的“自我反思”循环，允许自主代理从其先前的任务中学习，并将这些学习纳入未来的规划中，尽管这可能会增加 token 使用量。
-
LangGraph 模板指导 AI 代理开发
多篇 dev.to 文章详细介绍了如何使用 LangChain 的工作流系统 LangGraph 来构建 AI 代理。这些文章提供了常见代理模式的模板，包括用于文档查询的检索增强生成 (RAG)、能够规划和执行任务的多工具代理，以及需要用户审查的人机协作工作流。这些模板通过节点、边和状态管理来说明 LangGraph 的架构，用于创建复杂、有状态的 AI 应用程序。