QuanTA: 一种新的高秩高效微调范式

作者 : admin 本文共127个字，预计阅读时间需要1分钟发布时间： 2024-06-10 共2人阅读

QuanTA方法的核心是利用张量操作来模拟量子电路中的门操作。这些张量被设计为仅在特定的轴上应用，类似于量子电路中的单量子比特或双量子比特门。通过这种方式，QuanTA能够以高秩参数化来适应LLMs的权重矩阵。
网址：QuanTA: 一种新的高秩高效微调范式