Phi Llm
PulseAugur coverage of Phi Llm — every cluster mentioning Phi Llm across labs, papers, and developer communities, ranked by signal.
4 天有情绪数据
-
使用 LiveKit 构建内部 HIPAA 合规语音代理
本文提供了一个关于构建完全内部化的 HIPAA 合规语音代理的指南，确保受保护的健康信息 (PHI) 掌握在用户手中。它详细介绍了设置自托管 LiveKit 语音代理的过程，强调了医疗保健应用程序中数据隐私和安全的重要性。
-
AI安全：多层方法防止敏感数据泄露
组织必须实施多层安全策略，以防止敏感数据被发送到第三方AI工具。这包括使用命名实体识别等工具识别和分类个人身份信息（PII）、受保护健康信息（PHI）、敏感信息和知识产权等数据。然后，像开源的Bifrost这样的AI网关可以在敏感信息到达AI模型之前拦截并进行编辑或屏蔽，确保符合GDPR和HIPAA等法规。
-
研究：AI模型安全结果可从第一个token预测，而非深思熟虑
一篇新的研究论文挑战了“思考型token”在推理模型中必然会提高安全性的假设。研究发现，像GPT-OSS、Qwen、Olmo和Phi这样的模型的拒绝或合规结果，从第一个token开始就高度可预测，甚至在可见的深思熟虑发生之前。研究表明，“思考”过程更像是前缀补全，结果很少在初始阶段后发生变化，并且目前的干预措施可能通过过度拒绝来无意中压制真正的深思熟虑。
-
研究：训练后可提升大型语言模型在医疗编码方面的能力
一项新研究探讨了在国际疾病分类（ICD）编码领域，训练后技术对大型语言模型（LLMs）有效性的研究。研究表明，虽然在简单提示场景下LLMs表现不佳，但诸如监督微调（SFT）和强化学习（RL）等特定任务的训练后方法显著增强了它们的能力。该研究引入了一个名为PHI的诊断课程，进一步优化了对遗漏代码案例的表现，表明针对全分类法召回率的优化是释放LLMs在医疗编码方面潜力的关键。
-
NeuraDebugger-Micro：1.1B参数模型在代码调试方面表现出色
一款名为NeuraDebugger-Micro的新型11亿参数模型已发布，该模型专门用于代码调试而非通用代码生成。由伊朗Neuracoder团队开发，并在Hugging Face上提供，这款紧凑型模型可以在内存仅为4GB的设备上运行。它在识别bug、解释其根本原因以及跨12种编程语言提出修复建议甚至自动应用修复方面表现出色。
-
InferBench 应用简化本地 LLM 性能测试
一款名为 InferBench 的新开源桌面应用程序已发布，旨在帮助用户确定哪些大型语言模型 (LLM) 可以在其本地 GPU 上运行以及运行速度如何。该工具自动化了下载模型、配置模型以获得最佳硬件性能以及测量关键指标（如首次 token 时间、每秒 token 数和 VRAM 使用量）的过程。InferBench 计算精确的 KV 缓存需求以预测最大上下文长度，并选择最佳量化，从而摆脱了猜测和手动测试。
-
SHIELD：一个多样化的临床笔记数据集和用于企业级去标识化的蒸馏小型语言模型
研究人员推出了SHIELD，这是一个包含1,394条临床笔记的新数据集，其中包含超过10,000个已识别的受保护健康信息（PHI）跨度。该数据集旨在通过提供更多样化的现代临床叙述来解决旧基准的局限性。该项目还开发了蒸馏小型语言模型（SLMs），能够在标准硬件上高效地对临床文本进行去标识化，并实现了高精度和高召回率。
-
Tiamat 推出用于 PHI 清除和文本摘要的 API
Tiamat 发布了一系列 API，旨在协助开发人员完成项目。这些 API 提供诸如从文本中清除个人身份信息 (PHI) 和总结内容等功能。此次发布包含可用演示以展示其能力，旨在帮助开发人员更快地交付其产品。
-
新的MEDS数据集描绘了大型语言模型在数学推理、偏见和态度
研究人员推出了MEDS（数学教育数字阴影），一个旨在评估大型语言模型在数学方面的表现并识别潜在偏见的新数据集。MEDS包含14个大型语言模型中的28,000个角色，模拟了人类和AI助手的互动。它超越了传统的基准测试，纳入了自我效能感、数学焦虑和认知网络以及熟练度分数等指标。
-
开发的Python客户端可防止PHI泄露到LLM提示中
一个简洁的67行Python脚本已被开发出来，以帮助用户防止受保护健康信息（PHI）被包含在他们的LLM提示中。该工具旨在通过在发送敏感数据之前对其进行过滤，来增强与AI模型交互时的隐私和安全。该客户端设计易于集成到现有工作流程中，为数据保护提供了一个简单而有效的解决方案。
-
Scrubber 和 Presidio 在 5 个病例的 PHI 基准测试中进行比较
一项比较基准测试评估了 Scrubber 和 Presidio，这两种用于识别和编辑受保护健康信息 (PHI) 的工具。分析侧重于五个特定的案例研究，以评估它们在处理敏感数据方面的有效性。此基准测试的结果旨在告知用户这些增强隐私技术的性能差异。
-
大型语言模型展现范畴知觉和优化数据选择
研究人员开发了一个用于优化大型语言模型数据选择的新框架，使用高效代理将数据加权适应特定任务和模型。另一项研究调查了大型语言模型隐藏状态中的范畴知觉，发现在各种模型家族的数字计数边界处存在几何扭曲。这种被称为“结构化范畴知觉”的扭曲效应似乎是一种独立于显式语义知识的架构属性。
-
基于自然风格触发器的LLM隐蔽后门攻击
研究人员开发了一种名为Tail-risk Intrinsic Geometric Smoothing (TIGS)的新防御机制，用于保护大型语言模型免受后门攻击。TIGS在推理过程中运行，无需模型更新或外部数据，即可识别和破坏恶意注意力模式。另外，一个名为BadStyle的新攻击框架已被提出，它使用自然风格触发器为LLM创建隐蔽的投毒样本。BadStyle旨在通过确保自然性、稳定有效载荷注入以及在现实威胁模型下运行来克服先前攻击的局限性。