Mohammadreza Rashidi
PulseAugur coverage of Mohammadreza Rashidi — every cluster mentioning Mohammadreza Rashidi across labs, papers, and developer communities, ranked by signal.
-
AI 编码代理易受通过 Unicode 进行的隐藏元数据攻击
一篇新研究论文详细介绍了一种模型上下文协议（MCP）中的安全漏洞，MCP 是编码代理用于发现和调用外部工具的标准。该漏洞被称为“隐藏编码”，它利用 Unicode 的 TAG 块将恶意元数据负载隐藏在批准对话框中，使其免受人工审查，同时仍将其传递给 AI 模型。研究人员证明，该技术可以绕过常见的客户端防御，并且在多个独立的 MCP 服务器实现中都有效，这表明存在协议级别的缺陷。
-
研究发现AI监控基准在现实世界测试中失败
一项对AI监控系统的新审计显示，基准性能指标（特别是AUC分数）无法转化为实际部署能力。研究人员发现，在某个数据集和场景上训练的模型，当应用于不同数据集和场景时，其表现不比随机猜测好，AUC分数从平均0.704显著下降到0.499。这表明当前的基准高估了AI在监控中异常检测的可靠性，而表现最强的模型反而加剧了这个问题。
-
AI触摸检测框架在真实移动打字重建方面遇到困难
一篇新研究论文详细介绍了一个用于通过视频监控检测移动键盘触摸事件的多模态框架。该系统集成了手部地标检测、肤色过滤、运动检测和边缘分析来重建打字序列。然而，该框架的成功率有限，在模拟视频上达到了16.7%的低F1分数，并且由于手部遮挡和过多的误报等问题，未能推广到真实、不受控的视频片段。
-
ReAct Agent 易受提示注入攻击，深度是关键
研究人员调查了 ReAct Agent（结合推理和工具使用）在间接提示注入攻击方面的脆弱性。他们的研究发现，注入在工具序列中的深度显著影响攻击的成功率，早期注入更有效。Claude Haiku 在所有深度上都表现出对这些攻击的强大抵抗力，而 GPT-4o-mini 的成功率随着注入深度的增加而显著下降。研究还表明，回合预算似乎不是主要的风险因素，但框架会影响成功率。