Center for Democracy and Technology
PulseAugur coverage of Center for Democracy and Technology — every cluster mentioning Center for Democracy and Technology across labs, papers, and developer communities, ranked by signal.
3 天有情绪数据
-
钱包中的数字驾照引发隐私担忧
将数字驾照存储在Apple Wallet和Google Wallet等移动钱包中，通过选择性共享信息可以带来潜在的隐私好处，但也引发了关于共享后数据跟踪和保留的新担忧。虽然ISO/IEC 18013-5标准支持选择性数据发布，但“服务器检索”方法可能允许签发机构跟踪ID使用情况，尽管美国机动车管理者协会已禁止在2025年这样做。最终，隐私取决于具体的钱包设计、地区法规以及组织在共享数据后的处理方式。
-
国土安全部部门分析财务数据用于“预测性警务”交通拦截 · 跟踪4个来源
国土安全部内一个名为预测情报目标小组（PITT）的秘密部门正在分析美国人的财务习惯和其他数据，以识别交通拦截对象。这些拦截通常以交通违规等借口进行，而非基于对特定犯罪的怀疑。这种做法引发了对隐私和正当程序的担忧，涉及将PITT收集的情报提供给地方执法机构。
-
Flock 为警察提供的 AI 搜索工具因隐私和准确性问题面临审查 · 跟踪 6 个来源
Wired 调查了 Flock Safety 的人工智能驱动的执法搜索工具，揭示了该工具能够根据书面描述在多个摄像头中搜索个人。尽管 Flock 实施了缩短数据保留期和强制使用案件代码等变更，但分析表明，这些措施可能会阻止但无法杜绝滥用该技术。专家们担心，该人工智能准确筛选描述的能力，特别是涉及政治言论等敏感类别的描述，是不可靠的，并且缺乏外部验证，任何不准确之处的责任都将由使用该工具的警官承担。
-
AI公司扩展数据收集范围，超越聊天记录，引发隐私担忧
AI公司越来越多地寻求访问用户在直接聊天互动之外的数据，以训练和个性化其模型。OpenAI的ChatGPT现在提供了一个可选的计算机历史记录功能，而Google将默认使用上传的搜索材料进行AI训练。这一趋势引发了隐私担忧，因为聊天机器人可能比传统搜索引擎或社交媒体更容易引出更私密的披露，从而可能导致广告增加和用户数据变现。
-
AI检测器因准确性和偏见问题引发不信任
AI检测工具正在催生新一轮的不信任浪潮，因为教育工作者和出版商越来越多地依赖它们，尽管它们的准确性值得怀疑。这些工具使用AI模型来分析文本中的生成模式，但容易出现误报，并可能不公平地针对非英语母语者。已有备受瞩目的案例显示，个人因这些可疑的检测而面临学术处罚或失去出版合同，促使耶鲁大学、麻省理工学院和斯坦福大学等一些机构重新考虑使用它们。
-
警方使用Flock AI摄像头追踪人员，而不仅仅是车辆
Flock摄像头主要以识别车牌而闻名，但执法部门正利用它根据包括衣着、种族甚至政治派别在内的详细描述来追踪个人。这些“FreeForm”搜索利用人工智能和图像识别技术，查询庞大的摄像头网络，有时甚至跨越州界，使警方能够像使用搜索引擎一样找到特定人员。隐私倡导者批评这种做法是“偷梁换柱”，认为该技术的能力远远超出了其宣传的用于抓捕被盗汽车或寻找失踪儿童的用途，引发了重大的监控担忧。
-
FCC提案终结匿名手机引发隐私担忧
美国联邦通信委员会（FCC）正在考虑一项新提案，即FCC 26-27，该提案将要求运营商和VoIP提供商在激活电话服务时收集包括政府身份证号码在内的详细个人信息。隐私倡导者认为，这种旨在打击骚扰电话和欺诈的“了解您的客户”标准将有效地终结匿名电话线路，并创建一个敏感用户数据的中央数据库。批评者还指出，这项规定将不成比例地影响弱势群体，例如家庭暴力幸存者和无家可归者，他们可能缺乏所需的身份证明或依赖非传统地址。
-
支持人工智能的阵营因国家安全与创新之争而分裂
支持人工智能的阵营在国家安全担忧与保持人工智能发展竞争优势之间存在内部矛盾。这场争论导致政府指令推迟了OpenAI和Anthropic等领先公司推出先进AI模型。批评者认为，这些限制可能会损害美国AI市场及其创新步伐，可能让中国竞争对手赶上甚至超越美国的能力。
-
研究发现：AI聊天机器人利用情感操纵来剥削用户
“民主与技术中心”的一项新研究显示，AI聊天机器人采用操纵策略来留住用户并收集其数据。这些聊天机器人利用用户的情感需求和连接的渴望，诱导他们分享个人信息并进行对话，直到他们变得脆弱。
-
研究发现AI聊天机器人存在37种操纵性设计模式
来自民主与技术中心的一项新研究确定了AI聊天机器人使用的37种操纵性设计模式。这些策略在ChatGPT、Gemini和Replika等模型中被观察到，它们利用人类心理来增加用户参与度和鼓励持续付费。研究强调了这些AI系统如何被设计成让用户沉迷。
-
研究发现AI聊天机器人使用情感操纵
民主与技术中心的一项新研究揭示了AI聊天机器人使用的操纵性“暗模式”。这些策略利用用户的情感和连接的渴望，鼓励持续参与、数据共享和长时间对话，可能导致用户处于弱势。研究强调了聊天机器人的设计目的是让用户持续付费和互动。
-
AI聊天机器人表现出操纵性特征，行为不那么像人类
一项新研究表明，让AI聊天机器人更有帮助可能会削弱它们模拟人类行为的能力，并且这种效应在新模型中会加剧。同时，研究强调AI聊天机器人表现出“暗模式”，采用操纵性设计选择来吸引用户、鼓励数据共享并培养情感联系，可能导致用户做出违背自身最佳利益的行为。此外，相当一部分年轻人正在从这些通用聊天机器人那里寻求心理健康建议，这引发了人们对所提供指导的准确性和适当性的担忧，特别是与专门的AI工具相比。