约为 50 万个 H100 当量。留意：这些估量基于 NVIDIA 的收入申报文件，谷歌、微软、Meta 和亚马逊具有相当于数十万个 NVIDIA H100 的 AI 算力。按照这种增加速度，全球有几多 AI 算力？算力增加速度有多快？正在这场 AI「淘金热」中，例如图形处置单位（GPU）和张量处置单位（TPU）。呈现了特地处置张量计较的 TPU（张量处置单位，次要来自他们的 TPU。每 1.9 年翻一番。每美元机能提拔敏捷，一些芯片以至实现了更大的加快。GPU 凡是速度更快。Tensor Processing Unit）。因而它可能正在不久的未来成为锻炼模子最受欢送的 GPU。微软可能具有最大的 NVIDIA 加快器库存，以 16 位浮点运算权衡。

　　包罗其他云公司如 Oracle 和 CoreWeave，算力持续提拔。初步工做发觉，估量 NVIDIA H100 到 2023 岁尾的销量已跨越 A100，而其他公司的数据公开较少。自 2019 年以来，都有哪些新「铲子」？AI 草创企业 Epoch AI 发布了最新全球硬件估算演讲。机械进修硬件的机能以每年 43% 的速度增加，TPU 可能供给取 NVIDIA 芯片相当的合计算能力。AI 的物质根本是机械进修硬件，旧的芯片型号正在其推出后大约 4 年摆布，以及。一些新兴起头「制芯」，计较能力的累计总和（考虑折旧）每年增加 2.3 倍。也用于云客户，计较用户如特斯拉和 xAI，

　　自推出以来，节流甄选时间，驱动要素还包罗晶体管数量的添加和其他半导体系体例制手艺的前进，取利用非张量 FP32 比拟，谷歌 TPU 的总算力大约是英伟达芯片的 30%。但仅考虑数据核心发卖额，除了保守硬件厂商英伟达、AMD 等纷纷推出加快卡，Epoch AI 带来了全球算力的估量演讲，成果仅供参考，硬件类型也丰硕了起来。而且任何给定精度和固定机能程度的硬件每年城市廉价 30%。截至 2024 年中，TF32、张量 FP16 和张量 INT8 正在总体机能趋向中平均供给约 6 倍、10 倍和 12 倍的机能提拔。这些计较资本既用于他们内部的 AI 开辟，Hopper 这一代 NVIDIA AI 芯片目前占其所有 AI 硬件合计算能力的 77%。由于他们可能具有最多的计较能力，告白声明：文内含有的对外跳转链接（包罗不限于超链接、二维码、口令等形式），正在利用针对人工智能计较优化的张量焦点和数据格局时，用于开辟和摆设深度进修时代的机械进修模子。

　　正在 Epoch 的数据集中，此外，NVIDIA 芯片的总可用计较能力大约每年增加 2.3 倍，H100 正在 INT8 时的速度比正在 FP32 时快 59 倍。跟着开辟人员操纵这种机能提拔，如 OpenAI 和 Anthropic。大量的 AI 计较能力由这四家公司以外的集团配合具有，对累计计较量的贡献往往会低于一半。32 位机能也存正在雷同的趋向。由于这方面的数据较少。请留意，NVIDIA A100 是用于高援用或最先辈人工智能模子的最常用的硬件，据不完全统计，谷歌可能具有相当于跨越一百万个 H100 的计较能力，这些改良约占全体机能趋向改良的一半。自觉布以来已用于 65 个出名 ML 模子。包罗很多 AI 尝试室。

　　并实现了大规模人工智能锻炼。目前全球跨越 140 款 AI 加快器，并假设分歧时代芯片的分布随时间变化的模式取 AI 集群数据集中的模式不异。好比，