PEFT 将罗马乌尔都语中大型语言模型的仇恨言论检测 F1 分数提升至 93% 以上

一篇新研究论文探讨了参数高效微调 (PEFT) 方法，特别是低秩自适应 (LoRA)，在罗马乌尔都语仇恨言论检测中的有效性。研究发现，虽然在 Mistral、LLaMA、Falcon 和 BERT 等模型上进行零样本推理取得了中等结果（F1 分数 0.56），但使用 PEFT 进行微调可将性能显著提高到 0.93 以上的 F1 分数。这种方法展示了强大的计算效率，使其成为处理低资源语言的可行解决方案。 AI

影响 展示了一种高效的方法来适应低资源语言中的大型语言模型，有可能提高人工智能在不同语言环境中的实用性。

排序理由 学术论文，详细介绍了一种新的大型语言模型适应方法。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

• Bert
• Falcon
• Hate Speech Detection
• large-language models
• llama
• Low Rank Adaptation
• Mistral AI
• Parameter-Efficient Fine-Tuning
• PURUTT
• Roman Urdu
• South Asians
• Urdu

• 论文
• 模型发布

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →