dolphinMistral24b

大型语言模型集成到硬件设计和设备端应用中

研究人员正在探索将大型语言模型（LLMs）集成到硬件设计和设备端应用中。一篇论文讨论了如何保护芯片小片系统和LLM驱动的电子设计自动化（EDA）流程免受硬件攻击。另一个框架RooflineBench旨在通过分析设备端LLM在资源受限硬件上的性能特征来进行基准测试。此外，还在进行实际实验，以测试消费级硬件上本地LLM的能力，评估它们在编码任务中的性能以及从二进制代码中识别处理器架构的能力。