Cost Vectors

新研究详述了针对优化系统中AI模型提取的防御措施

一篇新发表在arXiv上的研究论文详述了一种在上下文线性优化系统中防止模型提取的方法。这些系统常用于预测后优化（PTO）框架，旨在提供最优决策而不泄露其内部成本向量。该论文识别了攻击者通过观察不同上下文中的决策来学习底层预测模型的条件，特别是针对线性模型。为应对此，提出了一种防御机制，当预测成本向量接近决策边界时扰动决策，实验表明这种防御可以增加提取误差。