情报 最强端侧模型！Zyphra推出Zamba2-mini ：12 亿参数，4bit 量化下内存占用小于 700MB

Zyphra 在 8 月 27 日宣布推出了 Zamba2-mini 1.2B 模型，该模型拥有 12 亿参数，是一款端侧 SOTA（State-of-the-Art）小型语言模型。在 4bit 量化条件下，该模型的内存占用低于 700MB。Zyphra 已承诺将 Zamba2-mini ...... 阅读全文