PEX-LLM

优惠 IPEX-LLM:在英特尔 CPU和GPU上高效运行大模型的PyTorch库

  • IPEX-LLM:在英特尔 CPU和GPU上高效运行大模型的PyTorch库
    AI
  • IPEX-LLM是一个专为在英特尔 CPU和GPU上运行大语言模型(LLM)而设计的PyTorch库。无论您是在使用带有集成显卡(iGPU)的本地电脑,还是拥有如Arc、Flex和Max等独立显卡的设备,IPEX-LLM都能帮助您实现极低的延迟运行。借助IPEX-LLM,您可以轻松利用Intel强大的计算能力,将LLM... 阅读全文