Ideebv

小型机构探索在 Synology NAS 上进行本地化人工智能数据搜索

一家小型机构正在探索一种“主权式人工智能”解决方案，以便在不将数据发送到外部服务的情况下搜索其 Synology NAS。拟议的系统将完全在本地硬件上运行，包括用于处理的 Mac Studio 和用于语言模型的 Ollama。关键组件包括用于 NAS 的文件爬虫、用于各种格式的本地文档解析、使用本地模型生成嵌入以及用于语义搜索的本地向量存储。目标是在保持数据隐私和避免意外的云令牌账单的同时，能够用自然语言查询机构文档。