Building The Internet of GPUs
作者:SHAYON SENGUPTA,Multicoin Capital 投资合伙人
编译:Kate, 火星财经
我们很高兴地宣布我们对 io.net 的投资,io.net 是领先的人工智能工作负载分布式计算市场。我们领投种子轮并参与了 A 轮融资。总的来说,io.net 已经从 Multicoin、Hack VC、6th Man Ventures、Modular Capital 和一群深度联系的天使投资人那里筹集了 3000 万美元,以实现按需生产就绪的计算市场。
我第一次见到 io.net 的创始人 Ahmad Shadid 是在 2023 年 4 月的 Austin Solana Hacker House,并立即被他对 ML 工作负载计算资源访问民主化的独特关注所吸引。
从那以后,io.net 团队一直在以光速执行这一理论。如今,该网络已经汇聚了数万个分布式 GPU,为人工智能企业提供了超过 57,000 个计算小时。我们很高兴能与他们合作,因为他们将推动未来十年的人工智能复兴。
全球计算短缺
对人工智能计算的需求正以惊人的速度增长,需求是无法满足的。2023 年,人工智能工作负载的数据中心收入超过 1000 亿美元,但即使在最保守的情况下,对人工智能的需求也超过了芯片供应。
在高利率和资本稀缺的时期,能够容纳这类硬件的新数据中心需要大量的前期投资。问题的关键在于 NVidia A100 和 H100 等先进芯片的生产限制。虽然 GPU 性能不断提高,成本稳步下降,但物理制造过程的加速速度不够快,原材料、零部件和生产能力的短缺限制了增长的步伐。
尽管人工智能前景光明,但它的物理足迹日益扩大,对空间、电力和尖端设备的需求使世界各地的预算紧张。物联网为我们的加速努力不受当前供应链限制的世界铺平了道路。
io.net 是 DePIN 理论的经典实例:使用代币激励从结构上降低获取和保留供应方资源的成本,并最终降低最终消费者的成本。该网络将大量异构 GPU 汇集到一个共享池中,供人工智能开发人员和公司使用。如今,该网络由来自数据中心、矿场和消费级设备的数千个 GPU 提供支持。
尽管这些资源的聚合是有价值的,但 AI 工作负载不会自动从集中式的企业级硬件扩展到分布式网络。在加密货币的历史上,已经有过几次建立分布式计算网络的尝试,其中大多数都没有产生有意义的需求侧量。
跨异构硬件 ( 具有不同的内存、带宽和存储配置 ) 编排和调度工作负载的问题并不简单。我们相信 io.net 团队拥有当今市场上最实用的解决方案,可以使这种硬件聚合对终端客户有用,并且经济高效。
为集群铺平道路
在计算的历史中,软件框架和设计模式是围绕市场上可用的硬件配置来塑造自己的。大多数用于人工智能开发的框架和库严重依赖于中心化硬件资源,但在过去十年中,在跨地理分布硬件的离散实例分配这些工作负载方面取得了重大进展。
io.net 利用世界上存在的潜在硬件,在它们上面部署定制的网络和编排层,使它们联机,创建一个超可扩展的 GPU 互联网。该网络利用 Ray、Ludwig、Kubernetes 和其他各种开源分布式计算框架,以允许机器学习工程和运营团队在 GPU 网络上进行最小的调整来扩展他们的工作负载。
ML 团队可以通过按需启动集群来并行 io.net GPU 上的工作负载,并利用这些库来处理编排、调度、容错和扩展。例如,如果一组动态图形设计师将他们的家用 GPU 贡献给网络,io.net 可以构建一个集群,周到地使世界上任何地方的图像扩散风格模型开发人员都可以访问集体计算资源。
BC8.ai,Stable Diffusion 的微调变体——完全在 io.net 硬件上训练——就说明了这一点。io.net 浏览器显示实时推理,并向网络贡献者支付费用。
每个推理都记录在链上以提供出处。这种特殊图像生成的代价是由 6 个 RTX 4090 组成的集群,这是用于游戏的消费级 GPU。
今天,网络上有成千上万的设备,横跨矿场、未充分利用的数据中心和渲染网络消费者节点。除了创造新的 GPU 供应外,io.net 还能够在成本上与传统云提供商竞争,通常提供更便宜的资源。
他们通过将 GPU 协调和开销外包给协议来实现这些成本节约。另一方面,云计算提供商对基础设施成本进行加价,因为他们有员工费用、硬件维护和数据中心开销。消费卡集群和矿场的机会成本大大低于超大规模者愿意接受的成本,因此存在结构性套利,io.net 上的资源动态定价低于不断增长的云率。
构建 GPU 互联网
Io.net 有一个独特的优势,那就是保持轻资产,并将服务任何给定客户的边际成本降低到几乎为零,同时与市场的供需双方都直接建立关系。他们处于有利地位,可以为成千上万的新企业提供服务,这些企业需要使用 GPU 来构建有竞争力的产品,以构建有朝一日每个人都会与之交互的竞争产品。
我们很高兴能与 Ahmad 和团队的其他成员合作,因为他们在全球范围内建立并加速了人工智能的发展。如果你正在构建计算密集型应用程序,你可以通过在这里注册来访问 io.net 的资源。如果你有潜在的 GPU,你也可以把它们贡献给网络,这样做可以获得积分。
文章来源于互联网:Multicoin Capital:打造GPU互联网,开创人工智能计算市场新局面