优惠 FLUTE：专门为使用查找表量化（LUT-quantized）的大语言模型设计

麻省理工学院、普罗夫迪夫数学高中和卡内基梅隆大学的研究人员推出FLUTE，FLUTE是一个灵活的查找表引擎，专门为使用查找表量化（LUT-quantized）的LLMs设计。简单来说，量化就是一种数据压缩技术，可以减少模型大小，加快运算速度，但同时也可能影响模型的精度。 GitHub：https://github.co... 阅读全文