GRASS

优惠 新技术GRASS:用于训练大语言模型的高效优化方法

  • 新技术GRASS:用于训练大语言模型的高效优化方法
    AI
  • 卡内基梅隆大学的研究团队推出新技术GRASS(GRAdient Structured Sparsification),它是一种用于训练大语言模型(LLMs)的高效优化方法。GRASS的核心在于利用结构化稀疏梯度来减少训练过程中所需的内存和计算资源, ...... 阅读全文