Ginigen

离线AI应用HeliGO在手机上本地运行LLM

Ginigen开发了一款名为HeliGO的离线灾难和生存应用，旨在完全无需互联网连接即可运行。该应用使用基于Google Gemma-4 E4B的4位量化模型Edge-4B-TELL，该模型本地存储在设备上。针对移动设备的关键优化包括用于管理Android上核心分配的线程固定和用于减少模型加载时间的特性延迟加载。该应用还包含一个多阶段安全门，它分析模型的内部状态而不是其自我报告的置信度，从而解决了LLM幻觉的问题。