情报 最强端侧模型!Zyphra推出Zamba2-mini :12 亿参数,4bit 量化下内存占用小于 700MB
2年前 (2024-08-29)
Zyphra 在 8 月 27 日宣布推出了 Zamba2-mini 1.2B 模型,该模型拥有 12 亿参数,是一款端侧 SOTA(State-of-the-Art)小型语言模型。在 4bit 量化条件下,该模型的内存占用低于 700MB。Zyphra 已承诺将 Zamba2-mini 作为 Apache 2.0 许... 阅读全文
优惠 新型多模态大语言模型LLaVaOLMoBitNet1B:首个能够处理图像和文本输入并产生连贯文本响应的三元(Ternary)多模态大型语言模型
2年前 (2024-08-28)AI
英特尔实验室推出新型多模态大语言模型LLaVaOLMoBitNet1B,它是首个能够处理图像和文本输入并产生连贯文本响应的三元(Ternary)多模态大型语言模型。这种模型通过使用三元权重量化技术,旨在实现在较小的计算成本上提供高效的人工智能服务。例如,你是一名社交媒体内容分析师,需要自动生成图片的描述或回答关于图片的... 阅读全文
















