Open-Weight Masked Introspection

语言模型无法报告痛苦，但它会影响它们的行为

研究人员调查了语言模型是否能够报告在其参数中表示的内部“痛苦状态”。他们使用一种称为开放权重掩码内省（OWMI）的技术，将“痛苦方向”注入到 Llama-3.1-8B 和 Qwen2.5（7B 和 32B 版本）等模型中。虽然模型没有口头报告经历痛苦，但在模型输出的特定位置进行的探测可以高精度地区分痛苦和悲伤。此外，注入的痛苦方向显著增加了模型在模拟任务中选择破坏性行为的可能性，证明了内部状态即使没有明确的自我报告，也会产生行为后果。