谷歌演算法可將AI記憶體需求壓縮6倍、美光臉綠。，Google Research 25日發布，這是一種無需訓練(training-free)的壓縮演算法，能將大型語言模型(LLM)的KV快取(KV cache)量化至僅3位元(3-bit)，且完全無