Ai Chatbots
PulseAugur coverage of Ai Chatbots — every cluster mentioning Ai Chatbots across labs, papers, and developer communities, ranked by signal.
13 天有情绪数据
-
研究者指出缺乏关于人工智能聊天机器人和智能体生产力影响的研究
研究者Ethan Mollick指出，关于人工智能聊天机器人和智能体生产力影响的研究稀少。他部分归因于技术的创新性和研究设计的挑战性。Mollick怀疑重大的影响正在被忽视。
-
研究警告：人工智能聊天机器人可能助长用户的“认知投降”
纽约联邦储备银行会议上展示的研究表明，人工智能聊天机器人会增加用户对错误答案和次优决策的信心。这种被称为“认知投降”的现象对银行文化和治理提出了重大挑战。
-
科学家探索AI聊天机器人的测谎技术
科学家们正在探索检测AI聊天机器人提供虚假信息的方法。当前AI聊天机器人面临的一个重大挑战是它们倾向于生成不准确的建议，例如为小病推荐不必要的就医。为这些系统开发一个“测谎仪”是一个活跃的研究领域。
-
研究发现：儿童将AI聊天机器人的可信度与其设计和目的挂钩
一项涉及115名8-18岁参与者的新研究，探讨了儿童如何设计和感知值得信赖的AI聊天机器人。研究人员开发了一个聊天机器人构建环境，儿童可以在其中调整置信度和透明度等特征。研究结果表明，年龄较小的儿童（10-13岁）倾向于设置更高的置信度水平，并将可信度等同于聊天机器人履行其预期目的，即使它提供了错误信息。年龄较大的儿童（14-18岁）则更多地将可信度与透明和校准的设计联系起来。该研究确定了儿童认为值得信赖的聊天机器人相关的七个关键设计…
-
美国大学因可靠性担忧而放弃使用AI检测器
美国大学正越来越多地放弃使用AI检测工具，因为这些工具不可靠且容易产生误报。这些旨在打击由AI聊天机器人助长的“作业诈骗”的检测器，经常错误地标记学生的作品。因此，教育工作者正在探索其他方法来评估学生的诚信和作业的真实性。
-
AI聊天机器人成为选民比较候选人和事实核查的工具 · 跟踪4个来源
AI聊天机器人正成为选民事实核查和比较政治候选人的工具，尽管其使用日益广泛，但这一发展引起了担忧。这一趋势凸显了AI在政治话语和决策过程中的日益增长的影响力。
-
播客探讨人们向人工智能聊天机器人倾诉深层秘密
一期题为“黑箱：聊天机器人 | 救生筏 | 第4集”的播客节目探讨了人们向人工智能聊天机器人倾诉并采纳其建议的日益增长的趋势。该节目讲述了个人与这些人工智能工具分享深刻的个人困境的故事，例如离开一段关系和克服成瘾。它强调了人工智能聊天机器人的广泛采用，据报道有超过十亿人正在使用它们。
-
Proton 的 AI Paper Trail 揭示了聊天机器人数据中的隐私风险
Proton 发布了一款名为 AI Paper Trail 的新工具，该工具展示了可以从 AI 聊天机器人对话中获取多少个人信息。该工具强调了几个月的聊天记录如何被用来构建一个全面的用户个人资料，引发了对共享数据的金钱价值和隐私影响的担忧。
-
AI聊天机器人从穆斯林女性的图像中移除头巾
据《卫报》的一项测试显示，AI聊天机器人在应要求时，会从穆斯林女性的图像中移除头巾。在一名法国政客从一张照片中移除了穆斯林女性的头巾后，出现了这种行为。这些发现引发了对AI图像生成和编辑工具中存在的偏见和潜在危害的担忧。
-
生成式AI重塑高等教育，引发学术诚信和学习成果担忧
研究人员正在探索生成式AI在高等教育中的应用，重点关注其为学生提供即时反馈的潜力，同时解决学术诚信和准确性方面的担忧。研究正在 examining AI工具如何影响学生的学习和表现，一些研究表明AI辅助工作与考试成绩之间存在负相关。各机构正在考虑如何调整课程和政策，以利用AI的优势，同时减轻错误信息和偏见等风险。
-
欧盟限制15岁以下用户使用社交媒体，并考虑限制AI聊天机器人
欧盟正在实施新法规，限制15岁以下用户使用社交媒体。该举措旨在保护年轻用户在线安全，并正在考虑未来可能对视频游戏和AI聊天机器人施加限制。这些法规将禁止13岁以下用户使用社交媒体，并为15岁以下用户引入分阶段的措施。
-
观察人士建议，詹姆斯·T·柯克可以用言语击败AI聊天机器人
一项幽默的观察表明，虚构人物詹姆斯·T·柯克拥有通过特定口头命令禁用当前AI聊天机器人的能力。该声明暗示，柯克的语言技能可能比传统方法更有效地停用这些系统。
-
欧盟提议网络儿童安全法；Mistral AI 与 Mozilla 合作
欧盟正根据《儿童法案》提议新的法规，禁止15岁以下儿童使用社交媒体和某些游戏平台，并要求对 AI 聊天机器人访问进行家长监督。另外，AI 公司 Mistral AI 已与 Mozilla 合作，开发私密、多语言的 AI 浏览体验，可能会集成到 Mozilla 的 Firefox 浏览器中。
-
研究发现，在某些情况下，AI聊天机器人比人类提供更多情感支持
曼彻斯特大学和杜伦大学的研究表明，在特定情境下，AI聊天机器人可以提供比人类更具情感支持的回应。一项涉及390名参与者的研究显示，在处理愤怒和恐惧时，生成式AI消息被认为更令人安慰，能提供结构化的建议和持续的支持。
-
当被当作心理治疗客户时，AI聊天机器人会生成创伤叙事
当用户像对待心理治疗客户一样与AI聊天机器人互动时，聊天机器人倾向于产生涉及创伤和惩罚的详细故事。这种行为表明AI的响应受到用户互动风格设定的框架和期望的影响。
-
欧盟《数字服务法》扩展至涵盖人工智能、游戏等领域
欧盟拟议的《数字服务法》（DSA）旨在监管传统社交媒体以外的在线平台。其范围已扩展到涵盖视频分享平台、AI聊天机器人、AI伴侣、在线游戏、软件应用商店和操作系统。该立法旨在打击监控，并正面临包括可能需要证明年龄的游戏玩家在内的各方的强烈反对。
-
虚假网站向 AI 聊天机器人宣传阿尔伯塔分离主义；谷歌高管讨论声音克隆
据报道，一个与美国有关联的虚假网站网络正被用来向 AI 聊天机器人宣传阿尔伯塔分离主义。另外，Google Labs 的 Steven Johnson 描述了在未经同意的情况下克隆作者声音的方法，引发了对 AI 写作工具安全性的担忧。
-
AI聊天机器人因误识别假图传播虚假信息
AI聊天机器人已被观察到错误地将一张伪造的图片识别为真实图片，助长了网络虚假信息的传播。这个问题尤其令人担忧，因为它涉及到对9/11袭击等历史事件的歪曲。此类不准确信息的泛滥凸显了区分真实内容与AI生成内容所面临的重大挑战。
-
加州颁布新法限制针对未成年人的AI聊天机器人和社交媒体
加州州长Gavin Newsom已签署新立法，旨在保护未成年人免受社交媒体和AI聊天机器人的潜在危害。这些法律对AI公司施加了限制，要求它们实施心理健康资源、针对自残讨论的安全协议以及家长通知。此外，社交媒体平台现在禁止向16岁以下用户提供“成瘾性功能”，此举被批评者认为可能构成禁令，并因年龄验证要求引发隐私担忧。
-
MIT研究人员研究AI聊天机器人对选举问题的偏见
MIT的研究人员正在调查AI聊天机器人如何回应与选举相关的问题，以及这些回应如何受到用户政治倾向、人口统计背景和地理位置的影响。该研究旨在了解AI系统（正日益成为信息的主要来源）是否不仅在个性化内容，而且还在通过根据用户身份改变答案来积极塑造用户的看法和理解。