SMT-Solvers in Action: Encoding and Solving Selected Problems in NP and EXPTIME
PulseAugur coverage of SMT-Solvers in Action: Encoding and Solving Selected Problems in NP and EXPTIME — every cluster mentioning SMT-Solvers in Action: Encoding and Solving Selected Problems in NP and EXPTIME across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
新的形式化上下文协议验证大语言模型生成工件
研究人员引入了形式化上下文协议(FCP),这是一种旨在严格验证大语言模型生成工件的新方法。FCP 通过将工件与原始请求的形式化解释直接进行比较来解决 AI 生成测试的弱点,而不是仅仅依赖 AI 编写的测试。该协议区分了可由求解器决定的符合性(conformance)和需要人类判断但可以通过具体证据反驳的保真度(fidelity)。在硬件设计和代码任务上的初步测试表明,与仅信任 AI 生成的断言或测试相比,FCP 显著提高了违反需求的检测率。
-
新框架计算深度神经网络的逻辑解释
研究人员开发了一个新的符号框架,用于计算深度神经网络行为的逻辑解释。该方法利用神经元激活和SMT求解器等逻辑引擎,提供了比以往仅限于单个特征或难以处理深度架构的现有技术更灵活的解释。在图像识别和医学基准测试上的实验证明了该方法的计算效率及其解释先前逻辑方法难以处理的深度网络的能力。
-
LLM-求解器循环面临叙述差距,易受对抗性攻击
研究人员在大型语言模型(LLM)-求解器循环中发现了一个“叙述差距”,其中LLM与形式化求解器之间的交互会损害呈现给用户的最终答案的可靠性。虽然SAT和SMT求解器等形式化工具提供可验证的输出,但将这些输出转换为用户友好叙述的过程容易受到操纵。对五个开源模型的实验表明,虽然证书门控等技术可以确保求解器判决的可靠性,但攻击者仍然可以利用措辞和通道变化来颠倒已验证的结论。尽管加固的提示可以减少注入漏洞,但它们并非完全免疫于自适应攻击,这表…
-
新框架LexGuard提升法律AI的可信度
研究人员开发了一个名为LexGuard的新评估框架,用于评估法律AI系统的可信度。该框架侧重于确保AI模型仅对法律上相关的变化敏感,而不是不相关的扰动。实验表明,LexGuard通过减少对操纵性措辞的漏洞并增强相似法规之间的消歧能力,显著提高了法律推理的可靠性。