实体 steering vectors

steering vectors

PulseAugur coverage of steering vectors — every cluster mentioning steering vectors across labs, papers, and developer communities, ranked by signal.

总计 · 30天

1

90 天内 1

发布 · 30天

0

90 天内 0

论文 · 30天

1

90 天内 1

层级分布 · 90 天

情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条

TOOL · CL_35929 · May 17 · 20:55

转向向量提供对LLM语气的直接控制，绕过提示限制

提示工程在控制大型语言模型（LLM）语气方面通常无效，因为行为特征被编码在模型的内部状态中，而不仅仅是输入提示。一种称为激活转向或使用转向向量的技术可以直接修改这种内部状态来影响模型的输出语气。该方法包括通过比较来自对比提示的模型激活来识别期望的行为方向，然后在生成过程中将该向量添加到模型的隐藏状态。