Aplaud: Adaptive Personalized Low-Rank Decomposition for User-Specific LLM
Aplaud 提出了一种用于用户特定大语言模型（LLM）个性化调查响应预测的自适应低秩分解框架。该研究针对单用户训练数据有限、模型存储可扩展性及跨问题共享结构利用等挑战，将适应过程扩展为冻结共享低秩基与紧凑用户特定修正两部分，并辅以秩一残差进行更精细的个人化。通过进一步对修正矩阵进行更低秩分解以降低参数成本并缓解过拟合，Aplaud 实现了高效、可扩展的个性化。实证结果显示，该方法在泛化和推理效率方面均优于最先进的基于 LoRA 的个性化 LLM 方法。