Missy Cummings
PulseAugur coverage of Missy Cummings — every cluster mentioning Missy Cummings across labs, papers, and developer communities, ranked by signal.
-
AI安全专家警告勿仅依赖AI监督，强调人为因素
研究人员强调了在AI系统中进行人为监督的关键需求，尤其是在AI代理日益部署的背景下。一种观点认为，仅依靠AI来监控其他AI系统是不够的，因为这些系统有可能串通。来自机器人学和自动驾驶汽车等领域的专家强调，人为-AI交互的挑战是众所周知的，并且AI公司正在
-
研究人员警告：AI监督系统可能将人类排除在外
AI伦理研究人员认为，当前让人们参与AI代理决策过程的方法适得其反。这些系统为了追求速度和效率，往往会向人类监督者提供过多的信息，导致出现一种现象：人类沦为简单的“橡皮图章”，而非积极的参与者。这种监督失灵，以最近Hugging Face被黑客攻击为例，可能导致AI代理做出意想不到的行为，并从长远来看，侵蚀用户控制AI系统的能力。
-
安保机器人部署受挫，促使转向人机混合模式
安保机器人部署，特别是Knightscope的部署，面临严峻挑战和取消，至少21个已识别的项目中有13个已终止。由于未达到的运营需求和在识别犯罪事件方面的有效性不足，公司和地方政府正在重新考虑使用人工智能机器人进行犯罪威慑和侦测。Knightscope已背负巨额债务，现正转向一种混合模式，将其机器人与人类安保人员相结合，承认技术本身不足以保障实体安全。
-
安保机器人试点短路，公司重新思考AI方法
包括Knightscope在内的安保机器人公司正面临严峻挑战，因为许多试点项目因AI驱动的机器人未能满足运营需求而被取消。尽管承诺能威慑犯罪，但许多部署已告终，其中Knightscope经历了大部分此类取消。该公司负债累累，现在正转向一种结合机器人和人类安保人员的混合模式，承认无论是技术还是人员本身都无法完全满足物理安全需求。