实体
LLMChain
LLMChain
PulseAugur coverage of LLMChain — every cluster mentioning LLMChain across labs, papers, and developer communities, ranked by signal.
总计 · 30天
0
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
LangChain 应用易受提示注入攻击
提示注入是使用 LangChain 等框架构建的应用程序中的一个重大漏洞，用户输入可能会被操纵以覆盖系统指令。这是因为大型语言模型将所有输入（包括用户消息和系统提示）都视为一个令牌流进行处理，没有固有的信任边界。攻击者可以通过在用户输入中，甚至在应用程序检索到的数据中嵌入恶意指令来利用这一点，如果大型语言模型可以访问工具或敏感信息，则可能导致未经授权的操作。开发人员可以通过使用聊天消息角色来区分系统指令和用户输入来缓解此问题，这有助于…
-
LangChain 0.2 和 AutoGPT v0.5 增强 LLM 开发
LangChain 0.2 已发布，引入了统一的“Runnable”抽象，以简化 LLM 调用、提示和内存管理的组合。此次更新旨在通过允许开发人员使用标准的 Python 运算符链接组件来减少样板代码，并提高多步 LLM 应用程序的可维护性和可测试性。此外，AutoGPT v0.5 已发布，其特点是引入了新的“自我反思”循环，允许自主代理从其先前的任务中学习，并将这些学习纳入未来的规划中，尽管这可能会增加 token 使用量。