读懂显卡(GPU)互联网io.net

[复制链接]
1398 |0
发表于 2024-3-7 16:00:04 | 显示全部楼层 |阅读模式

按:2024年3月6日,Solana生态DePIN协议io.net宣布完成3000万美元A轮融资,io.net表示将把所筹资金将用于建立世界上最大的去中心化显卡网络并解决AI计算短缺问题,MultiDAC Capital参投。MultiDavinci Capital合伙人Shayon Sengupta发文讲述为何投资io.net。金色财经xiaozou翻译。

我们很高兴地宣布我们对io.net的投资,io.net是领先的AI(人工智能)工作负载分布式计算市场。我们领投了其种子轮并参与了A轮融资。目前,io.net已经从MultiDAC、Hack VC、6th Man Ventures、Modular Capital和一个关系匪浅的大型天使投资方那里成功筹资3000万美元,将打造一个按需生产的计算市场。

我与io.net创始人Ahmad Shadid的首次见面是在2023年4月的Austin Solana Hacker House(Solana黑客之家),他的关注重心放在了ML工作负载计算资源访问的民主化方面,我立即被此吸引。

从那以后,io.net团队一直在以光速执行这一理念。如今,该网络已经汇聚了数万个分布式显卡,为AI企业提供了超过57,000个计算小时数。我们很高兴能与他们合作,他们将推动下一个十年的AI复兴。

1、全球计算短缺

人工智能计算需求正以惊人的速度增长,需求是无法满足的。2023年,AI工作负载数据中心收入超过1000亿美元,即使是在最保守的情况下,人工智能需求还是超过了芯片供应。

在高利率和资本稀缺的时期,能够容纳这类硬件的新数据中心需要大量的前期投资。问题的关键在于NVidia A100和H100等先进芯片是有生产限制的。虽然显卡性能不断提高,成本稳步下降,但物理制造过程提速不够快,原材料、零部件和生产能力的短缺限制了发展步伐。

尽管人工智能前景光明,但其物理足迹日益扩展,对空间、电力和尖端设备的需求使世界各地陷入预算紧张。io.net为我们创建一个发展步伐不受当前供应链限制的世界铺平了道路。

io.net是DePIN理论的经典实例:使用代币激励机制从结构上降低获取和保留供应方资源的成本,并最终降低最终消费者的成本。该网络将大量异构显卡汇集到一个共享池中,供人工智能开发人员和公司使用。如今,该网络包含了来自数据中心、矿场和消费级设备的数千个显卡(GPU)。

尽管这种资源聚合是有价值的,但AI工作负载不会自动从中心化的企业级硬件扩展到分布式网络。在加密史上,已经有过几次建立分布式计算网络的尝试,其中大多数都没有产生有意义的需求端量级。

跨异构硬件(具有不同的内存、带宽和存储配置)协调和调度工作负载并非易事。我们相信io.net团队拥有当今市场上最实用的解决方案,可以使这种硬件聚合对终端客户有益,并且经济高效。

2、铺平集群前进道路

在计算的历史上,软件框架和设计模式是围绕市场上可用的硬件配置来进行自我塑造的。大多数用于人工智能开发的框架和库严重依赖于中心化硬件资源,但在过去的十年中,在跨地理分布式硬件间分配工作负载方面取得了重大进展。

io.net利用全世界的潜在硬件,在其上部署定制的网络和协调层,使它们在线上,创建一个超级可扩展的显卡互联网。该网络利用Ray、Ludwig、Kubernetes和其他各种开源分布式计算框架,以允许机器学习工程和运营团队可以在显卡(GPU)网络上只进行微小调整来扩展他们的工作负载。

ML团队可以通过按需启动集群来并行io.net 显卡上的工作负载,并利用这些库来处理协调、调度、容错和扩展。例如,如果一群动态图形设计师将他们的家用显卡贡献给网络,io.net就可以构建一个集群,让世界上任何地方的图像扩散模型开发人员都可以访问集体计算资源。

BC8.ai是Stable Diffusion的一个微调变体,完全在io.net硬件上训练,就是一个很好的例证。io.net浏览器显示实时推理以及对网络贡献者的支付情况。

每个推理都记录在链上以提供溯源。这种特殊图像生成由6个消费级游戏显卡(GPU) RTPundi 4090共同完成。

今天,网络上有成千上万个设备,横跨矿场、未充分利用的数据中心和Render网络消费者节点。除了创造新的显卡(GPU)供应外,io.net还能够通常提供更便宜的资源在成本上与传统云提供商竞争。

他们通过将显卡(GPU)协调和开销外包给协议来实现成本节约。另一方面,云提供商对基础设施成本进行加价,因为他们还有员工费用、硬件维护费和数据中心开销。消费者集群和矿场的机会成本大大低于超大规模主体可接受的成本,因此存在结构性套利,io.net上的资源实时定价要低于不断增长的云费率。

3、建设显卡(GPU)互联网

Io.net有一个独特的优势,那就是维护轻资产,并将服务任何既定客户的边际成本降低到几乎为零,同时与市场的供需双方建立直接关系。他们处于有利地位,可以为成千上万的新企业提供服务,这些企业需要使用显卡来构建有竞争力的将来人人都会与之互动的产品。

我们很高兴能与Ahmad及其团队合作,他们在全球范围内建设并加速人工智能的发展。如果你正在构建计算密集型应用程序,你可以注册访问io.net的资源。如果你有闲置的显卡(GPU),也可以把它们贡献给网络获得积分奖励。

回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

快速回复 返回顶部 返回列表