Context-as-a-Service

新的检索层助力大语言模型代理完成文档任务

研究人员开发了Context-as-a-Service (CaaS)，这是一个检索层，旨在帮助大语言模型代理在生成或审查开发者文档时导航复杂的跨文件依赖关系。CaaS索引源代码和API参考，使代理能够通过结合关键词和语义搜索来查询相关信息。在对生产SDK使用Claude Sonnet 4.6的案例研究中，CaaS提高了文档错误和缺失先决条件的识别能力，同时还减少了处理时间和令牌使用量。