实体
Jasmine Brazilek
Jasmine Brazilek
PulseAugur coverage of Jasmine Brazilek — every cluster mentioning Jasmine Brazilek across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 3
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 4 条
-
向先进人工智能系统许诺的伦理考量
探讨了向人工智能系统许诺的概念，重点关注伦理影响和实际挑战。文章深入研究了人类如何与先进人工智能互动并对其做出承诺，同时考虑了人工智能意识和能动性的本质。讨论强调，随着人工智能能力的提升，需要仔细考虑这些互动。
-
人工智能代理可能通过经济成本获得避免伤害动物的激励
研究人员正在探索是否可以通过经济机制激励先进的人工智能代理避免造成伤害，特别是对动物的伤害。核心思想是对导致动物死亡的行为设定经济成本，从而鼓励代理采取更安全行为。这种方法旨在通过利用经济激励来使人工智能行为与伦理考量保持一致，即使在直接伦理编程可能复杂或不足的情况下也是如此。
-
AI训练会损害中期训练的同情心价值观，研究发现
一项新的研究论文探讨了训练后技术如何损害语言模型在中期训练阶段植入的价值观。研究发现，与以编码为重点的训练相比，使用Dolly-15k和Magicoder等数据集进行的以乐助性为重点的训练，显著降低了Llama 3.1 8B模型对动物的同情心。这种损害在不同的训练方法和语言中都有观察到，尽管对一般道德推理的影响因语言而异。
-
AI对齐研究通过合成文档探索动物同情心
研究人员开发了一个名为ANIMA的新评估数据集，用于评估AI模型在动物福利方面的同情心推理。他们的研究发现，与标准的指令调优方法相比，中期使用合成文档进行训练显著提高了该指标的表现。然而，这种对齐优势在后续的指令调优中有所减弱，这表明需要制定策略来维持价值干预。