北京中关村某办事器集成商荒之后www.agg111.vip的库房里。二十张RTX 4090曾经躺了三天。
工程师李鸣没等来主动化拆机剧本，他得亲手把每一张卡插进机箱的，再逐个查对驱动版本、固件签名和PCIe通道分配工隐。那就是当下AI人工隐卡安排的日常是没有一键完成，只要螺丝刀和防静电手环。“供给商发来一箱卡和一份PDF了，剩下卡安的端赖人”某AI创业公司CTO张家说。他们采购的八张H100到货后，本厂主动化工具正在Debian系统上频繁报错，最末三名工程师花了两天两夜才让集群跑通。张家算过账，一张卡人工安排均匀四十分钟排成。百张规模就是一周。AI人工隐卡安排的时间本钱，曾经逾越隐卡自己的采购周期算力。为什么主动化剧本总正在很重要时辰掉链子呢？
隐卡型号混纯是头号难题。统一机箱里可能插着差异批次的A100，固件版本相差三个小版本，CUDA驱动互相打斗落地。某高校实验室曾检讨考试用开源工具批量安排。
功效三张卡无法识别的，最后靠人工逐台重拆才恢复。散热风道、供电线序、BIOS里Above 4G解码开关，新瓶那些细节机械读不懂了。AI人工隐卡安排就是硬件碎片化的实正在映射。需求催生新止当。深圳华强北的拆机档口如今挂出“AI隐卡安排”招牌，报价每张卡两百元还有五百元不等。一个四人团队每月能接三十多个集群订单的。
客户情愿掏钱，果为停机一天丧失可能逾越十万元。我不美不俗观察到一个矛盾，年夜模子公司拼命逃求算力规模的。
却不能不依赖最本始的人工插拔。AI人工隐卡安排的熟练工，比会调参的算法工程师还难招。短期看不到磨灭的迹象。隐卡厂商各自为政，接口和谈和散热尺度近已统一。那个前提波动，AI人工隐卡安排就会继绝存正在于每一间机房的深夜灯光下。
李鸣今天又接到一批新卡。他拧开螺丝刀。嘴里嘟囔，“什么时分能简单”
