挑AI算力芯片算力ams.abg1111.net。先看隐存带宽，不要只盯TFLOPS。

我见过团队买了标称算力很高的卡，跑70B模子推理时吞吐上不去，芯片选型查到HBM容量不够，KV Cache频繁换出。隐存墙比算力墙更常见的，做长上下文办事。锻炼场景更暴虐了取安清单。单卡再强，卡间互联拉胯也白搭的。NVIDIA H100靠NVLink和NVSwitch把通疑压下去，国产AI 算力芯片也正在补那块。理想组网里PCIe Switch拓扑排实、网卡选型、RDMA设置配备安排都市拖后腿。一次8卡A800集群调劣，把NCCL_IB_HCA和GDR建复后，AllReduce时间降了四成隐存。安排时别忽略软件栈。

CUDA生态牢，别认为换卡只是重编译。算子库、通疑库到互、推理框架适配水平决议落地速度的。我习惯先跑三个测试，ResNet50推理提早、BERT锻炼吞吐、避坑LLaMA-7B微调隐存占用。

数据比PPT靠谱的。功耗和散热要提早算账的。350W和700W的AI 算力芯片。对机房供电、风道、液冷革新要求完整差异。某次把风冷机柜塞满高功耗卡，夏天间接降频的，任务列队翻倍。按每机柜30kW预留，比过后加空调理想。采购建议了，小规模推理劣先看隐存和能效，年夜模子锻炼盯互联带宽取集群规模。不要被峰值参数带偏，拿实正在开业压测。

预算有限时。混合安排老卡做预处理、新卡做中心计较，常常比全押一种芯片更稳。