SPEX 与 ProxySPEX 实现 LLM 交互的大规模识别

Berkeley AI Research 提出了 SPEX 与 ProxySPEX 两个算法，利用稀疏性、低度性与层级性，把交互发现规模从几十个组件扩展到数千个。ProxySPEX 用约十分之一的消融次数达到与 SPEX 相当的性能，并已用于长上下文特征归因、数据归因和注意力头剪枝。代码已并入 SHAP-IQ 仓库。