
【Kimi K3非但没“杀死”算力,反手给英伟达加了把火】今天说个反常识的瓜,很多人一听“线性注意力”,脑子里的画面就是算法变轻了、芯片不用堆了,但恰恰相反,这个技术优化的只是推理过程中临时占用的缓存,而不是模型本身那个实打实的“体重”。
Kimi K3光模型就有2.8万亿个参数,光是把这些参数乖乖装进HBM,就得吃掉1.5TB的容量。你想,你家的电脑内存才多少?16GB、32GB到头了。1.5TB什么概念?那是专业级数据中心才扛得住的重量。所以“线性注意力”省下来的那点缓存根本减不了肥,该用多少HBM,一颗都不能少。
而且官方自己说了,要做到高效推理,至少得64颗芯片绑在一起上。这不就是在给英伟达的GB200 NVL72那块巨无霸机架打广告吗?省油是省油了,但车越造越大,马路越修越宽,加油站的生意反而更火了。
经济学里有个老故事叫“杰文斯悖论”——18世纪英国人发明了更高效的蒸汽机,结果煤不但没省下来,反而因为机器用得多了,煤产量翻了不知道多少倍。一模一样:单次推理成本降了,用AI的人就多到炸,算力总营收只会猛涨。
落到A股,最该盯的其实不是GPU本身。一是HBM,模型压缩不了,DDR5和先进封装就得硬着头皮扩产;二是芯片之间的互联,64颗芯片怎么串起来?铜缆、光模块、液冷、高端PCB,哪个都比芯片更确定性。
市场喜欢用“线性思维”去理解“线性注意力”,结果拧巴了。这波认知差的赚头,等大家都反应过来,就只剩一碗汤了。
金河配资提示:文章来自网络,不代表本站观点。