优惠 微软推出新型语言模型phi-3-mini:3.8亿参数,可在手机上运行
标签:phi-3-mini
AI
1天前AI
微软推出新型语言模型phi-3-mini,这是一个具有3.8亿参数的模型,它在性能上可以与一些大型模型相媲美,如Mixtral 8x7B和GPT-3.5,但大小却足以部署在手机上。这项技术的创新之处在于其训练数据集,这是phi-2数据集的一个扩展版本,包含了大量过滤过的网络数据和合成数据。例如。你有一个智能手机,上面安... 阅读全文
优惠 LLaMA3-Quantization:采用低比特权量化压缩LLAMA3模型大小,减少内存和计算需求,使模型能够在资源受限的设备上运行
1天前AI
由香港大学、北京航空航天大学和苏黎世联邦理工学院的研究人员推出LLaMA3-Quantization,其采用低比特权量化(low-bit quantization)压缩LLAMA3模型大小,减少内存和计算需求,使模型能够在资源受限的设备上运行。LLAMA3是Meta公司发布的一种大语言模型,它在大量数据上进行了预训练,... 阅读全文