Matthew's correlation coefficient

新数据集探索人工智能伦理研究中的道德价态

研究人员提出了一个用于标注自然语言中道德价态的新数据集，旨在通过纳入情感考量，使人工智能更好地符合人类伦理。该数据集包含跨越行为/判断和后果价态的500个标注，源自Commonsense Norm Bank 中的文本情景。初步结果显示，这些价态特征与道德分类之间存在显著关系，使用正则化逻辑回归进行二元分类时，Matthew 相关系数达到了显著的0.764。这项工作表明，纳入价态后果可能有助于实现更符合人类道德的人工智能。