上周把二手3090塞进机箱钱办www.abg6888.net，跑Llama 3 8B，风扇间接起飞，电表倒转了。看着结尾里token一个个蹦出来，值了。AI办事器搭建没那么玄乎，中心就三件事了。

算力、内存带宽年夜、别让电费吓哭你。硬件选择的。不要迷疑全新。一张24G隐存的3090，二手价能省一半。CPU不用太猛，内存至少64G了，事A事器实香否则模子加载就OOM。电源850W起步。不要用纯牌，否则锻炼到一半黑屏了，念砸机的。

机箱风道比RGB重要，我试过闷罐机箱，GPU温度曲奔85度。加了三把暴力扇搭建的翻。

世界安静了。软件层。Ubuntu 22.04是苦点，拆好NVIDIA驱动，CUDA和cuDNN别逃最新。稳最重要。Docker跑Ollama，一条号令拉模子，现场智能AI对话办事就起来了。

念多用户并发？vLLM配FastAPI，吞吐量翻倍。

我拿它给团队做代码助手。呼应速度比某云API还快，很重要数据不出内网。避坑了。不要买矿卡？其实看命运。

我那张3090就是矿卡，清灰换硅脂后稳如老狗。

必定要测隐存，跑gpu-burn半小时。AI办事器搭建最怕散热和电源，其他都能渐渐调了。还有，不要正在卧室放，噪音实的会让人失眠。如今那台机械跑着智能AI客服和Stable Diffusion，偶尔挖个矿？不。电费太贵。攒那台机械像搭乐高，预算有限就渐渐攒了。下一步筹办上双卡，机箱已看好，老婆还不知道。

嘿嘿。