ValueEval

新的LLM架构可检测和量化文本中的人类价值观

研究人员开发了一种新颖的基于LLM的架构，旨在识别和量化文本中的人类价值观。该系统通过将伦理和道德考量纳入AI决策，超越了传统的效用最大化模型。该架构包含三个独立的模块：一个用于从理论框架生成结构化价值规范，另一个用于根据这些规范标记文本，第三个用于评估修辞和语义证据表明的支持或反对程度。这种模块化设计允许适应各种价值理论，并在ValueEval数据集上展示了良好的检测性能。