prompts
PulseAugur coverage of prompts — every cluster mentioning prompts across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
新的SAFEGuard框架可检测高级LLM越狱攻击
研究人员开发了一个名为SAFEGuard的新框架，用于检测大型语言模型上的基于优化的越狱攻击。该方法结合了流畅度测量（使用跨层分布距离和困惑度）和有害语义分析（通过梯度匹配）。该框架基于一个观察：有效的越狱提示在保持恶意意图的同时显得流畅，或者它们会注入无意义的序列来模糊有害语义。评估表明，SAFEGuard在针对各种越狱技术的准确性方面显著优于现有方法。
-
AI发展探索高级提示词和未来“AI大姐姐”角色
该集群讨论了AI不断发展的格局，涉及高级提示词工程和“AI大姐姐”的概念。第一项深入探讨了约束设计，探索了AI开发中提示词和上下文之外的下一步。第二项题为“通往AI大姐姐之路（2026版）”，推测了未来AI的交互和角色。
-
大型语言模型在从科学文献中提取数据方面展现出潜力
研究人员探索了使用大型语言模型（LLMs）从科学文献中提取数据的方法，发现LLMs可以有效地自行编写提示，其效果与专家编写的提示几乎相同。虽然自主文献发现被证明具有挑战性，因为代理会遗漏或虚构参考文献，但LLMs能够生成与人类专家判断高度一致的新数据集。这表明一种实用的方法，即专家定义标准，LLMs交叉检查提取结果，人类研究人员解决差异，从而实现可扩展的科学数据管理。
-
AI视频生成采用3D分层构图以增强场景控制
一种新的AI视频生成工作流程正在出现，它结合了3D分层构图模型（Previs）来增强对场景构图和镜头运动的控制。updream的Previs Studio等工具允许创作者在生成最终视频输出之前构建简单的3D场景，定义镜头角度，并规划角色动作。这种方法旨在弥合基于文本的提示词与专业电影制作所需的精确空间和时间控制之间的差距，减少试错，提高AI生成视频内容的预测性。
-
男子在法庭文件中注入人工智能提示以影响案件
一名男子怀疑法院在其诉讼程序中使用了人工智能，试图通过在法律文件中注入提示来影响案件。他采取了这种策略，以期获得优势并赢得他的案件。Ars Technica 报道了这一不同寻常的法律操作的细节。
-
开发者构建 LLM 提示回归检查以防止生产问题
一位开发者创建了一个 LLM 提示的预合并回归检查，以防止生产环境中出现意外更改。该系统使用一套场景来测试提示行为，确保关键输出（如优先级字段）保持一致。通过将提示视为功能性 API 并断言提取的合同细节而不是自由文本，该系统旨在在回归影响用户之前捕获它们，并利用免费模型作为初步筛选步骤。
-
多篇Qiita文章讨论AI的进展和交互策略
Qiita上的三篇文章讨论了人工智能的各个方面。一篇探讨了名为Buddharoid的机器人僧侣在物理AI方面的潜力，强调了其作为代理人的能力。另一篇文章概述了理解如何与AI交互的四个阶段的方法，超越了基本的提示工程。第三篇文章深入探讨了AI推理，将其分为三类，并澄清AI的结论并非基于自发思考，而是基于这些结构化过程。
-
GitHub Copilot 推出“技能”以实现高级类似 Agent 的功能
GitHub Copilot 正在推出一项名为“技能”（Skills）的新功能，旨在弥合 Prompt、指令与 Agent 之间的差距。此功能允许开发者为 Copilot 定义可重用的能力，从而增强其执行复杂任务的能力。技能层充当了缺失的中间层，在开发环境中实现了更复杂的交互和类似 Agent 的行为。
-
使用 TypeScript 构建 MCP 服务器：实用指南
本文提供了使用 TypeScript 构建模型上下文协议 (MCP) 服务器的全面指南。它通过提供一个实用的、生产就绪的示例来解决 MCP 文档碎片化的问题，该示例实现了工具、资源和提示等核心基元。该指南强调了正确处理 stdio 传输以避免损坏 JSON-RPC 帧等关键细节，并演示了如何设置项目结构和集成 MCP SDK 以简化开发。该过程涉及注册工具、资源和提示的处理程序，SDK 会自动推断功能。
-
新工具简化AI编码代理管理
一位开发者创建了一个名为Agent Installer的工具，用于帮助管理Codex和Claude Code等AI编码代理。该工具解决了使用多个AI代理和自定义技能时出现的上下文窗口膨胀和令牌消耗问题。Agent Installer允许用户将他们的提示和技能保存在一个单独的存储库中，然后选择性地将它们安装到每个AI代理的相应目录中，并在必要时创建符号链接。这种方法确保AI代理能够立即使用新的或更新的提示和技能，而无需重新加载。
-
新的 pxpipe 代理将提示嵌入图像以降低 LLM 代币成本
一个名为 pxpipe 的新代理工具已被开发出来，用于将提示和上下文直接嵌入图像。这种方法旨在显著降低使用 Claude 等大型语言模型的代币成本。通过在图像本身内预处理输入，pxpipe 提供了一种优化 LLM 使用并可能降低运营支出的方法。
-
LLM-as-a-Tutor 框架增强了强化学习的指令遵循能力
研究人员开发了一个名为 LLM-as-a-Tutor 的新框架，以改进强化学习的指令遵循能力。该系统通过让一个 LLM 同时充当考官和生成器来动态调整训练提示的难度。考官识别对当前策略而言过于简单的提示，生成器则添加约束以增加难度，从而创建一个自校准的训练信号。这种方法解决了提示难度与策略能力之间的不匹配问题，在复杂的指令遵循基准测试中表现优于现有方法。
-
AI 工作流需要版本控制来管理提示和检索逻辑
文章认为，AI 工作流，特别是提示和检索逻辑，需要与传统软件开发类似强大的版本控制。文章强调，这些组件的更改会显著改变 AI 系统的行为并影响结果，而且通常没有明确的错误指示。没有适当的版本控制，调试和识别意外行为的根本原因将是一个困难且耗时的过程，阻碍了回滚更改和维护操作稳定性的能力。
-
AI代理：从提示转向可移植技能以实现可重用性
一位Mastodon上的开发者主张，应将AI代理开发从基于提示的方式转向使用“技能”的更结构化方法。该方法旨在使代理行为在开发团队中可移植和可共享，并特别提到了其在Java团队中的应用。
-
AI提示词市场4grab.com向用户提供10%版税
平台4grab.com鼓励AI工具用户将其提示词变现。通过在4grab.com上列出提示词，用户每次使用都可以赚取10%的版税。此举旨在帮助个人从他们目前免费所做的工作中获利。
-
Anthropic 的 Bedrock 条款变更引发企业隐私担忧
一位 Reddit 用户对 Anthropic 关于 Amazon Bedrock 的服务条款变更表示担忧。该用户强调，一项阻止 Anthropic 访问客户内容（包括提示和输出）的特定条款对于达成企业级交易至关重要。他们担心最近的 AWS 声明表明这项保护将被移除，可能因隐私和安全问题影响客户信任和采用。