收藏本站 网站导航 开放平台 Friday, May 17, 2024 星期五
  • 微信

io.net 真实 GPU 数量成迷?去中心化 AI 协议存在哪些问题?

来源 中金网 04-30 17:00
摘要: ionet是建立在Solana上的去中心化算力网络,提供基于GPU的机器学习训练平台,但其实际可用GPU数量仅为320个,同时面临着成本效益低、硬件推断效果不佳等挑战。

  ionet是建立在Solana上的去中心化算力网络,提供基于GPU的机器学习训练平台,但其实际可用GPU数量仅为320个,同时面临着成本效益低、硬件推断效果不佳等挑战。

  @ionet是建立在 Solana 上的去中心化算力网络,属于 Depin 和 AI 板块,获得了 Mult1C0in Capital 和 Moonhill Capital 的融资,融资金额未披露。

  io.net是一个基于Solana的用于 GPU上的机器学习训练的去中心化云平台,提供即时、无需许可地访问全球GPU和CPU网络。平台拥有25000个节点,并采用革命性的技术将GPU云集群在一起,为大规模AI初创公司节省了高达90%的计算成本。

  目前建立在 Solana 上,属于目前比较火热的 Depin 和 AI 板块,今天来看看X上两位对其GPU和存在的问题进行了分析:

  @ionet拥有多少个GPU(Graphics Processing Unit,图形处理器)是用于图形处理的芯片)?

  X上@MartinShkreli对四个答案进行了分析:

  1)7648(在部署时尝试时)

  2)11107(从他们的资源管理器手动计算)

  3)69415(无法解释的数字,不变?)

  4)564306(这里没有任何支持、透明度或实质性的信息。连CoreWeave或AWS都没有这么多)

  认为真正的答案实际上是320个。

  为什么是320个呢?

  和我一起看一下资源管理器页面。所有的GPU都是“免费”的,但你仍然不能租用一个。如果它们是免费的,为什么不能租用呢?人们想要得到报酬,对吗?

  你实际上可以租用的只有320个。

  如果你不能租用它们,那它们就不是真实存在的。即使你可以租用,它也会增加...

  @rargulati 表示Martin在对此事提出质疑是完全正确的。去中心化的人工智能协议存在以下问题:

  1)没有一种成本效益高且时间有效的方式来在高度分布式的通用硬件架构上进行有用的在线训练。这需要一个我目前不知道的重大突破。这就是为什么FANG花费的资金比加密货币的所有流动性还要多,用于购买昂贵的硬件、网络连接、数据中心维护等。

  2)在通用硬件上进行推断听起来是一个很好的应用案例,但硬件和软件方面的发展如此迅速,以至于通用的去中心化方式在大多数关键用例上表现不佳。可以参考最新的OpenAI延迟和Groq的增长。

  3)从正确路由的请求上进行推断,与请求紧密共存的gpu集群,并利用去中心化加密货币来压低资金成本,以与AWS竞争并激励爱好者参与。听起来是个不错的主意,但由于供应商众多,GPU现货市场的流动性分散,没有人整合出足够的供应来提供给运营真正业务的人。

  4)软件路由算法必须非常好,不然消费者运营商的通用硬件在操作上存在很多问题。忘掉网络突破和拥塞控制,如果有人决定玩游戏或使用任何使用webgl的内容,你可能会遇到某个运营商的服务中断。不可预测的供应端会给运营带来困扰,并给需求方请求者带来不确定性。

  这些都是棘手的问题,需要很长很长的时间来解决。所有的投标都只是梗而已。

免责声明:中金网发布此信息目的在于传播更多信息,与本网站立场无关。中金网不保证该信息的准确性、真实性、完整性、有效性等。相关信息并未经过本网站证实,不构成任何投资建议,据此操作,风险自担。