一位接近英伟达的人士称,字节跳到目前已经到货和没到货的 A100 与 H800 加速卡总计有 10 万块。其中 H800 今年 3 月才开始投产。据晚点透露,仅字节跳动一家公司今年的订单可能已接近英伟达去年在中国销售的商用 GPU 总和。
一名字节人士透露,字节在 2020 年 6 月 GPT-3 发布后曾借助 V100 计算卡训练过一个数十亿参数的生成式语言大模型,但由于参数规模有限,这个模型生成能力一般,字节当时看不到它的商业化可能性故不了了之。
另一位阿里云人士表示阿里也曾在 2018-2019 年积极采购 GPU,当时阿里的采购量至少达到上万块规模。包括 V100 和 T4 计算卡,其中约十分之一送到了达摩院用作 AI 技术研发,这也用在了 2021 年发布的万亿参数大模型 M6 中。
消息人士提到,字节、阿里等大公司主要是和英伟达直接谈采购,因为代理商和二手市场难以满足其庞大需求,而英伟达会按目录价,根据采购规模给出一定的折扣。
目前一块 A100 在英伟达官网的标价为 1 万美元(备注:当前约 71500 元人民币),H100 为 3.6 万美元(当前约 25.7 万元人民币),而去年面向中国市场推出的 A800 和 H800 则略低一些,但由于供不应求等原因肯定会导致成交价更高。
相关教程
2024-02-25
2023-11-22
2023-03-15
2023-03-14
2023-03-14
2023-10-31
2023-05-25
2023-06-14
2024-06-19
2024-03-09
2024-08-30
2024-10-23
2024-10-22
2024-10-22
2024-10-21