这台英伟达b300服务器在国内甚至被卖到了1800万的高价,要知道在美国的价格也就四五百万元人民币一台。
拆开里面发现也没有多复杂,8张超级计算芯片,上面堆着一大推HBM3e高速显存,没有这堆海力士的显存,就是用来训练大模型、推理服务的,没有这块服务器根本跑不动大模型.
两颗英特尔的CPU,再加上一大堆系统内存,用来指挥、调度、读写硬盘。
还有8张海量高速网卡、供电系统,整套散热风道,硬盘管理,小板机壳等。
虽然看起来并不复杂,但就算让其它企业仿制,其它企业根本也仿制不出来,因为芯片造不出来,能设计的企业屈指可数,能够制造芯片的估计只有台积电和三星少数厂家。
还有就是8块高速芯片同时供电,高速通信,压住温度,整套布线基板设计容错率几乎为零。
就算你造出一块芯片,晶体管数量,显存,带宽,纸面参数几乎都追上了B300服务器。
但是你没办法造出CUDA生态,这才是这台机器最重要的,CUDA是一套庞大的体系,驱动编译器上千个预先写好并且反复打磨的算子库,调试工具,性能分析工具。
全球大多数做ai的科研人员公司写陌新的时候,默认就是直接使用cuda的现成工具。
硬件可以砸钱去生产,但是生态是短时间内很难堆出来的,需要大量工程师去完善、需要其它企业去使用才行。
英伟达真正的护河是凭借高性能的硬件,再加上几乎垄断的CEO软件生态。完成了行业壁垒。
好比苹果手机,就算你能够造出和苹果手机硬件性能一模一样的手机,但是你没办法造出苹果应用商店,没有了CUDA生态,这台服务器其实也没有了用武之地。

