mT0-XL-Detox-ORPO

开发的AI产物用于检测和改写有毒的职场沟通

研究人员采用设计科学研究方法，开发了一种新的AI产物，以解决数字职场中的有毒沟通问题。该产物使用微调的Transformer模型DistilBERT和DistilRoBERTa进行准确的有毒性检测。它还集成了mT0-XL-Detox-ORPO，这是一个生成模型，能够将有毒信息改写成无冒犯性的释义，同时保留其原始含义。该系统旨在促进尊重的对话并保持对话的连续性，为仅删除或阻止有害内容的传统审核工具提供了一种建设性的替代方案。