John O'Keefe

数字光遗传学：LLM控制与可解释性的新框架

一个名为“数字光遗传学”的新概念提出，将生物光遗传学的原理应用于大型语言模型（LLM），以提高其可解释性和控制性。该方法旨在创建一个能够映射LLM内部概念的系统，类似于大脑中的位置细胞功能，然后在推理时通过激活或抑制特定特征来进行精确干预，类似于使用光来控制神经元。提出的“Opto-Map”层将提供一个实时仪表板，用于观察和调整模型行为，从而在无需重新训练的情况下解决幻觉和偏见等问题。