实体
Mayank
Mayank
PulseAugur coverage of Mayank — every cluster mentioning Mayank across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
MarketNow 在社区反馈中阐述 AI 安全层
MarketNow 正在回应社区反馈，澄清其安全架构，特别是解决了关于其 L1.9 提示注入筛选器和 L3 运行时拦截器的担忧。L1.9 层现已更名为“提示注入筛选”，使用正则表达式识别潜在威胁，但缺乏经过衡量的误报率。L3 拦截器作为确定性的故障关闭否决机制，在每次工具调用前执行，以阻止恶意操作，并补充定期的重新证明检查。MarketNow 还在实施一个带有 `ca_key_id` 字段的签名密钥注册表，以检测密钥轮换并确保安全证明的完整性。
-
SGLang 成为 vLLM 的高效 LLM 服务继承者 · 跟踪 1 个来源
SGLang 是由伯克利、斯坦福和卡内基梅隆大学的研究人员开发的新工具，它正作为 vLLM 在服务开源 LLM 方面的改进而受到关注。虽然 vLLM 改进了请求处理和吞吐量，但 SGLang 解决了更复杂的挑战：LLM 在多轮或多步交互中重新处理先前见过的信息的低效率问题。SGLang 的核心创新 RadixAttention 允许 LLM 通过存储常见前缀并为新信息分叉来重用先前处理过的数据，从而显著降低延迟和计算成本。这使得需要结…