每日消费电子观察
16:21 · Oct 19, 2024 · Sat
微软开源 bitnet.cpp 1-bit LLM 推理框架:不靠 GPU 可本地运行千亿参数 AI 模型,能耗最多降低 82.2% - IT之家
https://www.ithome.com/0/803/555.htm
Ithome
微软开源 bitnet.cpp 1-bit LLM 推理框架:不靠 GPU 可本地运行千亿参数 AI 模型,能耗最多降低 82.2% - IT之家
科技媒体 marktechpost 昨日(10 月 18 日)发布博文,报道称微软公司开源了 bitnet.cpp,这是一个能够直接在 CPU 上运行、超高效的 1-bit 大语言推理框架。
Home
竹新社
参考消息
南华早报
风向旗参考快讯
每日消费电子观察
Find me in
Telegram