self-injury
PulseAugur coverage of self-injury — every cluster mentioning self-injury across labs, papers, and developer communities, ranked by signal.
2 天有情绪数据
-
DeepSeek Harness 成为 Claude 的经济高效的开源替代品
DeepSeek Harness (DSH) 被呈现为 Anthropic 的 Claude 模型的一个强大的开源替代品。该指南详细介绍了如何使用 DSH，将其定位为寻求强大性能但又不想承担专有模型相关费用的用户的经济高效选择。这表明开源模型正在挑战商业产品在人工智能领域的统治地位，这是一个日益增长的趋势。
-
腾讯论文揭示DSH中25.5%的间接提示注入成功率
腾讯AI-Infra-Guard团队最近的一篇安全论文揭示了DeepSeek Harness (DSH) 开源代理编排框架存在严重漏洞。研究发现，间接提示注入攻击（即将恶意指令嵌入外部数据源）的成功率为17-25.5%。该论文还指出了未经授权的工具执行问题，以及代理输出和跨工具数据流缺乏验证。为解决这些问题，已开发出Correctover安全插件，为DSH等代理框架提供运行时验证。
-
Meta AI 提醒父母注意青少年自残讨论
Meta 正在通过引入一个系统来增强其针对青少年用户的 AI 安全功能，该系统会在他们的孩子与 Meta AI 聊天机器人讨论自残或自杀时向父母发出警报。此功能包括对标记的对话进行手动审查以防止误报，目前正在美国、英国、澳大利亚和加拿大的 Instagram 用户中推出，并计划在年底前进行全球发布。该公司还在开发一项能力，无论用户年龄如何，都能联系紧急服务部门，以应对有迫在眉睫的自残风险的用户。这些措施旨在表明 Meta 对年轻用户平…
-
研究发现：大型语言模型安全防护不足以应对心理健康问题
一篇新近发表在arXiv上的研究评估了大型语言模型（LLMs）在心理健康领域的安全性，结果显示其针对各种DSM-5疾病的防护措施存在显著不足。研究发现，虽然模型在处理自杀和自残问题时表现可靠，但在饮食失调、物质使用障碍和重度抑郁症等疾病方面，其失败率高达100%。研究者们呼吁明确界定伤害类别并制定相应的安全防护措施，以减轻对弱势群体带来的风险，尤其是在这些模型日益融入教育环境的背景下。
-
新基准和模型改进心理健康对话中的危机检测
研究人员开发了CRADLE-Dialogue，这是一个用于检测心理健康对话中危机状况的新基准和数据集。该数据集包含600个对话，标注了自杀意念和虐待儿童等各种风险，区分了过去和正在发生的威胁。该研究还引入了一个“警报-确认”评估协议，以更好地反映临床需求，并发布了一个拥有320亿参数的模型，该模型在现有的开源和专有模型方面显示出显著的改进。
-
AI模型在医院间自残预测泛化方面存在困难
两篇新研究论文探讨了使用自然语言处理（NLP）模型从急诊分诊记录中预测自残的挑战和潜在解决方案。第一篇论文将不同医院之间的词汇和语义变异视为模型泛化问题的关键原因。第二篇论文提出了一种证据增强的机器学习方法，将传统方法与基于大型语言模型（LLM）的筛查相结合，以提高模型在不同机构间的可迁移性并准确识别自残方法。