social science
PulseAugur coverage of social science — every cluster mentioning social science across labs, papers, and developer communities, ranked by signal.
5 天有情绪数据
-
新论文探讨大型语言模型在社会科学研究中的使用和验证挑战
一篇新发表在arXiv上的论文探讨了大型语言模型（LLMs）在社会科学研究中日益增长的应用。研究指出，尽管LLMs越来越多地被用于数据标注和模拟调查响应等任务，但它们也带来了显著的方法论挑战，如偏见和幻觉。该研究分析了社会科学论文中的验证实践，发现这些实践不一致，并提出更稳健的验证策略，以建立更好的规范和标准。
-
大型语言模型在社会模拟中的应用：从高级建模到边界要求 · 跟踪 4 个来源
一本书的章节和一篇立场论文探讨了大型语言模型（LLMs）在社会模拟中的应用。书的章节追溯了从基于主体的模型到人工智能增强的模拟和社会数字孪生的演变，强调了向更现实的社会系统表示的转变。立场论文认为，在基于 LLM 的社会模拟中设定明确的边界是必要的，并强调当前 LLM 倾向于同质化输出，这限制了它们捕捉基本行为多样性的能力。它提出了验证和约束方法，以确保这些模拟能够提供对社会科学的真正见解。
-
稀疏自编码器：AI可解释性的希望与陷阱
研究人员正在探索稀疏自编码器（SAE）用于机制可解释性，旨在揭示大型语言模型中的不同概念。一种新方法，结构化稀疏自编码器（$S^2AE$），通过对图像块进行分组并应用结构化稀疏正则化，提高了视觉-语言模型中的概念一致性。另一项研究强调了正确设置SAE中L0超参数的关键重要性，因为不正确的值可能导致特征无法解开底层模型概念。此外，一篇观点论文认为，虽然SAE可能在已知概念方面遇到困难，但它们在发现未知概念方面非常强大，在公平性、安全性和…
-
学术搜索中的AI摘要在社会科学研究中表现好坏参半
一项发表在arXiv上的新研究探讨了AI生成的摘要在社会科学领域学术搜索结果中的有效性。研究人员评估了两个通用AI模型（一个商业模型和一个开源模型），以开发用于学术部署的错误分类法和安全措施。一项包含30名参与者的用户研究表明，虽然AI摘要并未显著提高工作量或满意度等指标，但它们在降低心智负担和挫败感方面呈现出趋势。参与者很少展开摘要，点击和查询重述次数略有减少，这表明AI摘要可能通过集中信息线索来帮助早期筛选。
-
新基准 CORE-Bench 测试 AI 代理的科学可复现性
研究人员推出了 CORE-Bench，这是一个旨在评估 AI 代理执行计算可复现性任务能力的新基准。该基准包含 270 个任务，源自计算机科学、社会科学和医学领域的 90 篇科学论文，具有不同的难度级别，并包括纯语言和视觉语言挑战。开发了一个评估系统来加速评估过程，并使用 GPT-4o 和 GPT-4o-mini 模型测试了 AutoGPT 和专门的 CORE-Agent 等基线代理。表现最好的代理在最困难的任务上达到了 21% 的准…
-
新方法简化复杂模型的因果数据融合
研究人员引入了因果数据融合的新方法，这是一种结合观察数据和实验数据以识别因果效应的技术。所提出的方法利用剪枝和聚类操作作为预处理步骤，以管理与do-calculus相关的计算复杂性，特别是在变量众多和因果图复杂的情况下。这些方法旨在减小模型尺寸同时保留关键特征，并在流行病学和社会科学领域进行了应用演示。
-
AI框架利用社会模拟提升研究创造力
研究人员推出MASS，一个用于增强AI生成社会科学研究的新型框架。MASS将真实的社会模拟与LLM相结合，以培养创造力并提供经验基础，超越了简单的文献检索。该系统具有动态目标路径规划、用于代理记忆的多学科数据集以及结构化遗忘机制。实验表明，与基线LLM相比，MASS将整体生成质量提高了6.81%，洞察力提高了17.19%。
-
人工智能将革新或毁掉社会科学
人工智能为社会科学带来了双重潜力，既有革命性的进步，也有重大的风险。虽然人工智能工具可以增强数据分析能力并揭示新的见解，但人们对其对研究方法的影响以及被滥用的可能性仍存担忧。人工智能的整合需要仔细考虑伦理影响以及人类研究人员的未来角色。
-
LLM置信度失准影响社会科学研究
一篇新论文探讨了大型语言模型在社会科学研究中使用时出现的失准问题。研究发现，LLM报告的置信度分数常常不能准确反映其正确性，这会影响下游分析。研究人员提出了一种软标签蒸馏方法来改进小型模型的校准，显示出校准误差显著降低。
-
人工智能的影响引发辩论：取代工程师、提高生产力及颠覆学术界
一个YouTube视频认为，人工智能取代工程师的数学依据存在缺陷，并引用了神经网络、硬件和能源成本方面的局限性。另外，一篇文章讨论了Eliyahu Goldratt的约束理论，认为人工智能工具并不总是能提高生产力，关注核心瓶颈是关键。另一篇文章警告学术界注意人工智能对研究和出版的快速影响，指出人工智能在某些社会科学任务中的表现优于人类，并可能颠覆传统的学术体系。