近日，谷歌公布的全新AI內存压缩技术“TurboQuant”，引发了业界的极大关注。该技术宣称能在不牺牲模型精准度的前提下，将生成式AI推理阶段最吃资源的“键值缓存”（KV Cache）空间需求减少到原来的1/6，并让计算速度暴增8倍。这一突破性的技术，也引发了整个市场对于内存需求将断崖式下跌的担忧，美光、Sandisk、西部数据等存储相关美股纷纷大跌。