CUDA

优惠 使用简单、纯粹的C/CUDA进行大语言模型训练的开源项目llm.c

  • 使用简单、纯粹的C/CUDA进行大语言模型训练的开源项目llm.c
    AI
  • llm.c是一个使用简单、纯粹的C/CUDA进行大语言模型训练的开源项目,无需庞大的245MB PyTorch或107MB cPython依赖。例如,GPT-2(CPU,fp32)的训练仅需要单个文件中约1000行的简洁代码。该代码能够立即编译并运行,且与PyTorch的参考实现完全吻合。之所以选择GPT-2作为首个工... 阅读全文

    优惠 让CUDA应用在AMD显卡上飞驰!第三方项目“ZLUDA”宣布开源,性能提升可达20%!

  • 让CUDA应用在AMD显卡上飞驰!第三方项目“ZLUDA”宣布开源,性能提升可达20%!
    GitHub
  • AMD之前与第三方开发者Andrzej Janik合作,开发了一个名为“ZLUDA”的项目。这个项目旨在利用ROCm技术栈(Radeon Open Compute Platform)实现英伟达CUDA应用二进制兼容性,使得CUDA应用无需修改源代码就可以在AMD硬件上运行。经过两年的努力,Janik成功推进了“ZLUD... 阅读全文