GPU 租用商场越来越魔幻了姪子物語，价钱被打下来的原因，尽然不错是天命东谈主闲置的 4090被轮回愚弄了？
最近，一种新式的 GPU 租出阵势初始兴起。
它能让手上有闲置策画卡的东谈主，把资源租给需要的东谈主。
举个例子，为了打黑据说买了 4090 的天命东谈主，不错把卡租给真金不怕火丹侠们。我方能挂机"躺着"赢利，真金不怕火丹侠还能以更合算的价钱租算力（4090 只需每小时 1 块钱那种）。
距离大规模算力荒才夙昔只是 1 年，算力租出商场照旧是一番新表象了。
不仅如斯，老牌租出平台们也纷繁主动降价。国外，H100 价钱被卷到每小时 2 好意思元。
国内情况亦是如斯，A100（80GB）租用价低至6.68 元 / 小时，40GB 为3.28 元 / 时，A800 则是5.98 元 / 小时。
按理说，目下恰是 AI 算力需求新生的时刻。大型云厂商打价钱战为了赛马圈地还可集结，算力租出平台价钱莫得情随事迁，反而初始降价……
这背后，到底发生了啥啊？
"白菜价"科罚高端算力
先一句话回归，相较于 ChatGPT 元年，AI 算力告急问题总体得到缓解，然则依旧靠近挑战。
如上变化由算力供需侧共同影响而来。
最初在算力供给上，大模子趋势进一步鼓吹 AI 底层硬件以及基础才气发展。
国际方面，英伟达这两年不仅扩大了 AI 策画家具线，更在产能上大幅普及，以高亢暴增的商场需求。
Hopper 架构和 Blackwell 架构均包含 Transformer 引擎，差异推出了 2 款家具供商场聘用，且不同架构之间的代际升级相配显著。B200 的晶体管数目已达到 2080 亿，差异是 H100 的 2.6 倍、A100 的 3.8 倍，后两者则发布于大模子波浪之前。
两个 B200 GPU 与 Grace CPU 市欢就成为 GB200 超等芯片。在步调 1750 亿参数 GPT-3 基准测试中，GB200 的性能是 H100 的 7 倍，提供的纯属算力是 H100 的 4 倍。
脚下首批工程版 B200 照旧送到 OpenAI 进入使用。据天风国际分析师郭明錤表现，英伟达 Blackwell GB200 四季度的出货量将在 15 万块至 20 万块，来岁第一季度出货量将权贵增长 200%-250%，达到 50-55 万块。
这同期带动了全行业的家具迭代升级节律，AMD、英特尔等为保握竞争力，近两年也纷繁推出更先进 AI 策画家具。
更具限度的变化体目下算力基建方面。据中国信息通讯征询院测算，箝制 2023 年底，全球算力基础才气总限度达到 910EFLOPS，同比增长 40%。
好意思国、中国算力基础才气限度位列前两名，算力全球占比差异为 32%、26%。
另一方面，算力需求也在近一年内发生变化。
跟着开源模子性能达到 GPT-4 水平（如 405B Llama 3、DeepSeek-v2 等），以及中小模子（7B-70B 限度）应用愈加老练，中小企业 / 开发者不绝入场，以及近期趋势推理 Scaling law 成为新标的。黄仁勋预测，跟着推理链的出现，推理的限度预测将迎来千万乃至十亿倍的增长。
种种原因都导致商场的微调推理需求大幅加多，纯属需求的增长趋势初始放缓。
相较于纯属，推理阶段对硬件的条目莫得那么高。在实质场景中，不时是用发轫进开辟进行纯属，上一代家具进行推理。
因此不错看到，大型厂商依旧追捧 H100、B200 等高端 GPU，然则中小企业 / 开发者不再趋之若鹜，转而关注更具性价比的聘用。
但问题是，算力供需抗拒衡问题依旧辣手。
宏不雅上，《东谈主工智能算力高质料发展评估体系汇报》中示意，我国算力商场还靠近供给不及、算力智能水平较低、动力考验、供应链完备性不及等问题。
微不雅上，以学术圈为例，"算力荒"照旧多数风物。
本年 5 月，李飞飞在采访中表现，斯坦福 NLP 执行室唯有 64 块 A100。比较于产业界，这个数字微不足道，但在高校圈里照旧是荒谬富饶了。
更多数的风物是，许多高校执行室都唯有破钞级显卡，环球还需要列队使用。执行经费有限导致租出算力也将靠近更多制约。
在这些矛盾下，算力商场初始愈加主动、自觉提议新式支吾措施。
最显著的迹象莫过于——经典算力平台主动降价 + 新兴算力租用模式浮现。
能薅羊毛更能挂机赢利
本年算力商场最热点的话题莫过于"价钱战"，这并不局限于卖大模子奇迹的云厂商，提供算力租出的各大平台亦然主角。
不同类型的平台降价阵势也有所差距。
目下算力租出平台主要有两种类型：
算力云平台
C2C 算力租用平台
前者好比京东，其系数的 GPU 奇迹器是自营资源，频繁在提供算力的同期也保险一系列配套奇迹，能让用户更低门槛、更便利调用算力。该模式下，订价权在运营方我方手里，本年以来多家平台都在主动降价。
后者好比淘宝，为机主和用户提供平台，供两边进行奇迹交往。这种模式较为新兴，不错让有闲置策画资源的机主将 GPU 出租，"挂机赢利"。它天生就能提供更具性价比的租出价钱。
不外需要详确，关于算力租出，价钱低只是考量要素之一，用户同期关注平台提供的奇迹才气。
关于前者，用户更慈祥平台提供的算力是否充足合算、使用是否充足友好；关于后者，机主和用户则更介意平台是否靠谱。
更具体的模式分析，来看行业典型案例。
经典算力云平台中，论谁打价钱战最凶猛，AutoDL 必是其一。
有履历的真金不怕火丹侠们对这个平台应该都不生分。等于它当年把 3090 的租用价钱从 4.5 元 / 小时打到了 1.32 元 / 小时，在用户这儿是口碑载谈了。
它在 2021 年上线，专注于提供弹性、好用、省钱的 GPU 算力奇迹。
GPU 总限度在国内同类型平台中位列前茅，提供丰富的 GPU 聘用，包括 A100、A800、V100、4090、3090 等。
它的主要成见用户包含了高校科研东谈主群以及企业用户，是以在极具性价比的同期也主要初学友好。
平台支柱万般深度学习框架，如 TensorFlow 和 PyTorch，并提供相应的 CUDA 环境，用户可阐述需求聘用合适的镜像。
具体才气上，兼顾科研、企业需求。主要包括：
用卡弹性：提供容器实例和 API 弹性救助模式，支柱千卡级别弹性救助；
团队经管：支柱执行室、团队等场景中对多个子账号经管；
特地云：支柱腹地机器免费接入，将 AutoDL 云上高效经管与使用体验移植腹地；
CodeWithGPU 社区：支柱镜像和模子分享，分享镜像可赢得收益
付费方面更合乎"羊毛党"需求，主要提供按秒计费、包卡计费两种模式。
按量计费模式下，实例开机初始计费，关机收尾计费，时长可精准到秒，最低计费 0.01 元。关机所少见据会保留（15 天），支柱镜像保存、文献存储等。
包年包月为预留 GPU 模式，支柱按日按周按月等租用，价钱比按量计费更低廉，恒久使用更合算。
况且只消注册，平台就送一个月真金不怕火丹会员，认证学生奏凯升级真金不怕火丹会员，认证期间内将一直灵验。会员将享有价钱优惠。
另一方面，大模子趋势兴起后，C2C（用户对用户）模式变得火热。
硅谷的代表为 San Francisco Compute，从寂寂无名到成为黑马，它只是用了半年时分。还拿下了山姆 · 奥特曼弟弟领投的 1200 万好意思元种子轮融资，估值达到 7000 万好意思元。
国内如今也出现雷同趋势，比如刚刚上线 3 个月的橘皮优，现已和 AutoDL 达成策略配合。
按照自我界说，橘皮优是一个促进 C2C 双边 AI 算力交往的撮合平台。
它的中枢成见是通过分享经济的模式，裁汰用户使用 AI 算力的资本，同期让特地闲置算力被高效应用，鼓吹了算力普惠和绿色低碳。
该平台支柱的算力类型包括 GPU、NPU、CPU、ASIC、ARM、RISC-V 等，能够高亢 AI 纯属、AI 推理、图像生成以及渲染等任务需求。
相较于 AutoDL，橘皮优提供的算力租出奇迹价钱更低，适用于对机器建立不解锐的东谈主群。
同期它愈加定制化，支柱个东谈主的外部镜像、实例端口活泼。
也不错在该平台上成为机主对出门租赚外快，支柱自助上机，不箝制机器和数目。
由于和 AutoDL 达成策略配合，背后团队是算力行业老兵，在鱼龙混合的算力商场里是愈加靠谱的聘用。
大概也无谓挂牵没东谈主来租，毕竟 AutoDL 靠着性价比上风，在短短 3 年时分里酿成巨大的用户基础。之前环球用卡都是靠抢的。
偷偷要费观看视频在线是以也未免有东谈主好奇，这样低的价钱，它图啥啊？
其实，AutoDL 时代团队自己就来自学术圈，从 2017 年头始就在作念 GPU 有关奇迹。这样的出生配景下，AutoDL 团队当然更懂 AI 行业痛点，并累积了丰富教授。
由此也就不难集结 AutoDL 为何坚握提供量大管饱还合算的算力资源。
跟着 AI 大模子应用落地趋势连接，对 AI 算力的需求还会连接加多。
关于好多科研高校、中小企业而言，算力会成为研发和落地应用上的第一都门槛。
如今，跟着算力租出商场发展愈加完善，模式愈加万般化，使用算力也变得像去食堂打饭同样——量大管饱还竟然。
关于行业而言，这能更猛进度缓解算力供需抗拒衡问题，同期也让资源罢了更高效绿色流转。
诚然，最主要的照旧诸君真金不怕火丹师们不错薅到羊毛，因为玩黑据说发轫 4090 的天命东谈主们也能找到回本的渠谈。
临了，附上文中两个平台的官网，感好奇同学可进一步了解！
AutoDL 官网：https://www.autodl.com
橘皮优官网：https://gpu.pro姪子物語