优惠 Q-GaLore：提高训练大语言模型时的内存效率

德克萨斯大学奥斯汀分校、 萨里大学、 牛津大学、加州理工学院和Meta AI的研究人员推出新方法Q-GaLore，它用于提高训练大语言模型（LLMs）时的内存效率。大型语言模型是一类拥有数十亿参数的人工智能模型，它们在各种任务中表现出色，但训练这些模型需要巨大的内存和计算资源。实验结果表明，Q-GaLore在预训练和微... 阅读全文