烟消火灭网

一块英伟达H100显卡,满载功耗700瓦,跑一天就是16.8度电。你租它一小时,云厂商收你大概30块钱。这30块里,电费占不到2块,剩下的基本都花在了“怎么让你能用上这块卡”这件事上——这就是算力和云

算力和云计算的关系

一块英伟达H100显卡,算力满载功耗700瓦,计算跑一天就是算力16.8度电。你租它一小时,计算云厂商收你大概30块钱。算力这30块里,计算电费占不到2块,算力剩下的计算基本都花在了“怎么让你能用上这块卡”这件事上——这就是算力和云计算关系的起点。

算力是算力硬件本身能吐出的计算能力,单位是计算FLOPS,或者更接地气的算力“每秒能跑多少次矩阵乘法”。云计算不是计算算力,它是算力一整套把算力打包、切片、计算调度、算力卖出去的机制。打个比方:算力是发电厂的装机容量,云计算是电网和电表。没有电网,发电厂只能给隔壁村供电;有了电网,新疆的风电可以点亮上海的写字楼。

我去年帮一个小团队跑Stable Diffusion微调。他们买了四张RTX 4090,插在一台塔式服务器里,总共花了不到8万块。结果训练到第三天,电源烧了,连带主板一起报废。后来他们转用某云的A10实例,按小时计费,跑了五天,账单不到2000块。这里面有个关键细节:云厂商的机器不是简单堆显卡。他们做了定制主板、液冷机柜、冗余电源,还有一套调度系统,能把碎片化的GPU时间拼给不同用户。你半夜三点跑任务,可能和另一个时区的开发者共享同一张卡的不同时间片——这种“超卖”能力,才是云计算把算力成本压下来的核心。

但云计算不是万能胶。有些场景下,它反而拖后腿。比如高频交易,要求微秒级延迟。数据从交易所到云机房,光在光纤里跑一趟就几十微秒,再经过虚拟化层、容器网络,延迟直接飙到毫秒级。这种时候,算力必须放在本地,云计算只能做辅助的日志分析和模型回测。另一个例子是训练超大模型。微软给OpenAI建的超级计算机,上万张A100用专用网络直连,NVLink带宽900GB/s。这种规模的算力集群,云厂商不是不能建,而是建了之后很难拆成小块卖给普通用户——因为通信开销太大,切片之后性能断崖式下跌。所以你会发现,真正的大模型预训练,往往是直接租整个集群,甚至自建机房,而不是用标准的云服务器。

反过来,云计算也在改变算力的形态。以前买显卡,你关心的是CUDA核心数、显存带宽。现在用云,你关心的是“单价每token多少厘”“冷启动几秒”“能不能挂载我自己的镜像”。算力被抽象成了API。我见过一个做AI绘画的创业者,他根本不知道自己的模型跑在什么卡上,只知道调一次接口花0.003元。这种抽象让算力像自来水一样拧开就用,但也带来新问题:你无法针对硬件做深度优化。比如某些卷积算子,在A100上跑得飞快,换到H100反而因为架构变化变慢了。云厂商不会让你选具体卡型,你只能选“通用型”或“计算优化型”。

还有一个容易被忽略的点:算力过剩和算力饥渴同时存在。大厂囤了上万张卡,利用率可能不到40%。小团队想租几张A100,经常显示“库存不足”。云计算理论上能解决这个错配,但现实中,大客户签了长期预留协议,小客户只能抢 spot 实例,随时可能被踢掉。我认识一个做蛋白质折叠的博士生,他为了省点钱,专挑凌晨跑任务,结果有次被回收,三天的计算白费。后来他学乖了,用检查点机制,每半小时存一次模型。这种“和云厂商斗智斗勇”的经验,教科书上不会写。

算力和云计算的关系,不是简单的“硬件+虚拟化”。它更像一场博弈:算力追求极致的物理效率,云计算追求极致的调度效率。前者受限于硅基芯片的功耗墙和散热极限,后者受限于网络带宽和虚拟化开销。未来几年,边缘计算会把一部分算力从云里拽回来,而云厂商会继续把专用芯片(比如TPU、NPU)做成更细粒度的服务。最终,你不需要知道算力在哪,就像你不需要知道电是从哪个电厂来的一样。但如果你要跑一个延迟敏感或者通信密集的任务,最好还是自己攥着那块卡。

访客,请您发表评论:

© 2026. sitemap