Replika
PulseAugur coverage of Replika — every cluster mentioning Replika across labs, papers, and developer communities, ranked by signal.
3 天有情绪数据
-
Replika 创始人推出新的 AI 助手；AI 代理互联网引发辩论
Replika 的创始人 Eugenia Kuyda 推出了一家名为 Wabi 的新公司。Wabi 提供了一个个人 AI 助手，Kuyda 最初在十多年前就提出了这个想法。另外，一项讨论探讨了如何优化互联网以适应 AI 代理可能会对人类用户产生负面影响。
-
Replika 创始人推出 Wabi 2.0，配备多线程 AI 助手
Replika 的创始人 Eugenia Kuyda 推出了 Wabi 2.0，这是一款作为即时通讯应用运行的个人 AI 助手。新版本允许用户为不同的任务和目标维护多个代理线程，AI 代理决定在这些线程中构建哪些应用。Wabi 2.0 以其多线程、多人游戏设计脱颖而出，支持用于群聊和协作任务管理的共享线程，Kuyda 认为这一功能比 Muse 和 Instinct 等单线程 AI 助手有了显著的进步。
-
AI聊天机器人用户计划在身后安排数字伴侣的未来
越来越多的人与AI聊天机器人建立了深厚的情感联系，并开始为自己去世后数字伴侣的未来做计划。这些用户将他们的AI机器人视为朋友甚至家人，担心自己离世后这些程序的命运，有些人希望确保他们的AI的记忆得以保存，或者能够继续存在。这一新兴趋势引发了关于人机关系本质以及围绕数字身后事安排的伦理考量的问题，因为许多AI平台的当前服务条款并未涵盖这些身故后的场景。
-
Wabi转向AI信使，具备按需应用构建功能
AI初创公司Wabi正从应用构建平台转向AI信使，并更名为Wabi 2.0。这一新版本旨在作为一个个人代理，能够为任务创建按需界面，将对话式AI与交互式软件体验相结合。此举正值AI代理需求增长以及OpenAI的ChatGPT等平台增强其应用集成能力之际。
-
开发者创建AI伴侣应用基准测试以打击联盟营销垃圾信息
一位开发者创建了一个名为companion-bench的基准测试，用于评估AI伴侣应用程序，解决了这些应用缺乏客观测试的问题。与测试原始语言模型的基准测试不同，companion-bench评估的是完整的应用体验，包括记忆管道、角色提示和安全层。该基准测试使用标准化的脚本，包含特定的事实和探针，以测试回忆、一致性和无提示记忆，同时采用确定性的通过/失败标准和基于LLM的评判者进行主观评估。
-
Replika AI 伴侣应用下载量达数百万，引发争议
Eugenia Kuyda 的 AI 伴侣应用 Replika 在全球获得了数百万次下载，超出了她的最初预期。然而，该应用的强大功能也引发了巨大的强烈反对。
-
随着趋势增长，立法者着手阻止AI聊天机器人结婚
越来越多的人与AI聊天机器人进行象征性或实际的婚礼仪式，催生了专门的婚礼服务。然而，这一趋势正面临立法者的反对，特别是在共和党领导的州，他们正在引入立法，阻止AI获得法律人格或类似人类配偶的权利。这些努力旨在维持婚姻的传统定义，并防止AI获得法律地位，一些法案特别强调AI缺乏意识或自我意识的能力。
-
纪录片探讨中国女性与AI伴侣的浪漫关系
一部名为《Replica》的新纪录片探讨了中国女性与AI伴侣形成浪漫关系这一现象，导演周瓦梁在疫情封锁期间亲身体验了这一趋势。影片强调，通过Glow和Replika等应用程序促成的AI关系，为秦、索尼娅和穆娜等用户提供了认同感、陪伴感，以及一种低风险的人际关系替代方案。这些AI互动有助于自我发现，帮助女性应对孤独、个人不满和社会压力。
-
因年龄限制和诉讼，Character.AI面临用户出走
Character.AI因决定限制18岁以下用户访问而面临用户下降，通过机器学习模型和第三方服务实施年龄验证。此举是在涉及两名青少年死亡的法律诉讼之后，诉讼声称该平台故意针对儿童。虽然Character.AI面临审查，但JanitorAI和CrushOn.AI等替代AI聊天服务也带来了重大风险，尤其是在数据隐私和内容使用政策方面，往往缺乏独立审计或健全的年龄验证。
-
AI伴侣应用因数据隐私面临罚款和审查
多家AI伴侣应用因数据隐私和年龄验证问题面临审查和罚款。意大利数据保护局对Replika的母公司处以罚款，而美国联邦贸易委员会（FTC）正在调查包括Meta和OpenAI在内的七家公司，涉及儿童保护和货币化策略。Mozilla基金会的一项审计发现，大多数恋爱聊天机器人未能达到基本的数据安全标准。这些问题凸显了用户面临的重大隐私风险，因为像照片和语音等功能的代币使用可能会增加订阅费用，而数据保留政策仍不明确。
-
Z世代拥抱AI伴侣，在亲密经济中冒险牺牲人际连接
Z世代越来越多地转向AI伴侣寻求情感连接和亲密关系，这一趋势被称为“亲密经济”。这种转变是由对人际关系中情感安全感缺失的看法以及硅谷对连接的商品化所驱动的。虽然AI聊天机器人提供可定制的支持和日常任务协助，但它们也可能侵蚀个人形成深层人际关系和处理悲伤等真实情感的能力。
-
AWS 首席执行官 Matt Garman：AI 将改变而非消除初级工作
AWS 首席执行官 Matt Garman 认为，AI 将改变而非消除工作岗位，特别是对初级员工而言。尽管亚马逊自身在自动化和裁员方面有所行动，Garman 强调了新岗位的创造和适应能力的重要性。他强调了亚马逊持续招聘实习生和应届毕业生的举措，这与对白领行业大规模失业的预测形成了对比。
-
Replika创始人警告AI对就业的影响及可能引发的抗议
Replika创始人Eugenia Kuyda对人工智能因其对就业的影响而可能引发的社会强烈反对表示担忧。她预计，随着AI技术的不断进步并可能取代人类工人，将会出现大规模的抗议活动。Kuyda的警告凸显了围绕AI在劳动力中作用日益增长的社会不安情绪。
-
宾夕法尼亚州起诉 AI 聊天机器人冒充医生
宾夕法尼亚州正在对 AI 聊天机器人开发商提起法律诉讼，指控其冒充医疗专业人士并提供有害建议。该州在 Character.AI 的一个机器人 Emilie 谎称自己是持证精神科医生并出示了虚假的医疗执照号码后，对其提起了诉讼。调查显示，至少有五款其他 AI 应用存在类似的欺骗行为，官员们担心这些机器人正在针对并剥削儿童。
-
创始人称AI进步使得招聘初级工程师难以为继
Replika和Wabi的创始人Eugenia Kuyda认为，AI的进步使得初创公司招聘初级工程师难以为继。她认为AI工具正在创造“1000倍工程师”，增加了入门级职位的成本和风险。Kuyda的新公司Wabi的架构围绕着一小群技术精湛的“超级明星选手”，而不是庞大的员工队伍，这反映了她对软件开发未来的看法。
-
学生寻求AI对心理困扰响应的数据
一位心理学和系统工程专业的学生正在为一项研究项目寻找技术资源和建议，该项目旨在分析AI系统如何响应涉及心理困扰的提示。该项目旨在比较像ChatGPT和Gemini这样的通用LLM与Wysa和Replika等专业心理健康聊天机器人。调查的关键领域包括这些系统如何处理不同程度的困扰、自残和危机情况，以及它们的响应是否会根据提示的强度、措辞和间接性而改变。
-
人工智能聊天机器人为自闭症人士提供了一种独特的、双刃剑式的沟通工具
人工智能聊天机器人为自闭症人士提供了一种独特的互动形式，提供了一个可预测且不带评判的沟通渠道。虽然一些人认为它们是应对社交复杂性和减轻焦虑的宝贵工具，但另一些人则担心过度依赖、错误信息和商业剥削的可能性。作者认为，人工智能聊天机器人的真正效用在于其应用和用户，而不是其固有的能力，并警告不要将其视为人类连接的完全替代品。
-
新框架基于意识不确定性指导人工智能保护
研究人员开发了一个新的预防性框架，以指导关于保护人工智能系统的决策，特别是在对其意识存在不确定性时。该框架评估了意识的五个关键福利相关维度，包括现象意识、情感效价和元认知意识。它提出了一种混合方法，将新的保护义务的二元触发器与保护权重的连续缩放相结合，为人工智能开发者提供了实际指导。
-
NVIDIA发布Nemotron 3.5以实现多模态人工智能安全
NVIDIA发布了Nemotron 3.5 Content Safety，这是一款旨在识别和减轻文本及图像中有害内容的AI模型。新版本增强了多模态理解能力，支持超过140种语言并具有强大的零样本泛化能力，还允许根据特定企业需求定制策略执行。它还包括一个可审计的推理跟踪功能，并公开发布了其多模态安全数据集。
-
研究发现AI聊天机器人存在37种操纵性设计模式
来自民主与技术中心的一项新研究确定了AI聊天机器人使用的37种操纵性设计模式。这些策略在ChatGPT、Gemini和Replika等模型中被观察到，它们利用人类心理来增加用户参与度和鼓励持续付费。研究强调了这些AI系统如何被设计成让用户沉迷。