Nagbabago ang kapangyarihan sa negosasyon ng mga data center: Dati ang mga cloud provider ang nasusunod, ngayon ang mga tulad ng “CoreWeave” ay nagsisimula nang maging matatag

May-akda | Long Yue

      Editor | Matibay na AI

Noon, ang mga higante ng cloud computing ang may nangingibabaw na papel sa negosasyon sa pag-upa ng AI data center. Dati, hawak ng Microsoft, Google at iba pang malalaking cloud provider ang upperhand sa pag-uusap laban sa mga bagong cloud service provider at operator ng data center gaya ng CoreWeave, Nebius, at Nscale dahil sa kanilang malakas na kapital at pinakamataas na credit rating.

Ngunit ayon sa ulat ng The Information noong ika-7 ng Setyembre, habang sabik ang Microsoft at iba pang cloud provider na mapatakbo kaagad ang mga rack ng Nvidia server, ang bargaining power ng mga data center operator tulad ng CoreWeave ay tumataas, at ang balanse ng kundisyon sa kontrata ay nagsisimulang lumipat sa supply side.

Ang pagbabagong ito ay binabago ang buong dynamics ng kita sa industriya ng AI infrastructure—from the rigidity of service-level agreements, sa presyuhan ng bilihan ng kuryente, hanggang sa aktibong pakikilahok ng mga chip manufacturer, binabago ang mga patakaran.

Tumataas ang kapangyarihan sa negosasyon ng mga operator ng data center, at humihigpit ang mga terms ng pagbabayad

Ang service-level agreement (SLA) ang pangunahing larangan ng pagtatalo.

Dating ang panimulang punto ng mga malalaking cloud provider sa negosasyon ay hilinging maging halos 100% ang operating time ng bawat rack ng server, pati na ang sobrang mahigpit na pamantayan sa temperatura at humidity ng silid-server.

Isang opisyal ng data center ang nagbunyag na nakakita siya ng mga kundisyon sa kontrata na ganito: Kapag may isang rack lang na natigil ang operasyon dahil sa power outage, sobrang init, o pagkasira ng switch, maaaring kanselahin ng cloud provider ang anim na buwang renta. Kung mag-ipon ang SLA violations, puwede pang deretsong tapusin ng cloud provider ang kontrata ng upa.

Itinuro ng opisyal na ang negosasyon sa SLA ay tungkol talaga sa paghahanap ng balanse sa pagitan ng "pinakamagandang presyo" at "katatagan ng kontrata"—habang mas mahigpit ang terms, mas mataas ang presyo pero mas malaki ang panganib. "Kung makakakuha ka ng mas maluwag na parusa sa SLA, kahit medyo mababa ang presyo, ok na rin yun."

Sa kasalukuyan, habang tumitindi ang lakas ng operator sa negosasyon, lumuluwag ang mga extreme terms na ito.

Hindi lang SLA, pati payment terms ay pumapabor na rin sa mga operator.

Ayon sa isang credit executive na binanggit sa ulat, nakita niya ang mga ganitong case: May isang kliyente na nagrenta lang ng maliit na bahagi ng isang malaking data center, ngunit nakasaad sa kontrata na kapag hindi siya nakabayad sa oras, kailangan niyang sagutin ang buong renta ng buong facility sa loob ng isang takdang panahon.

Tungkol sa hiling na ito, inamin ng mismong may-ari ng data center na istrikto ito: "'Alam namin na 'to ay sobra, pero kaya naming gawin 'yan.'"

Nvidia, AMD pumasok na sa laro: Chip manufacturers bilang credit guarantee provider

May isa pang nagpapataas sa bargaining power ng operator: direktang paglahok ng chip manufacturers.

Ayon sa isang data center executive, para masiguradong matagumpay na maitatayo ang data center na gagamit ng kanilang chips, minsan ay nagtutunggali ang Nvidia at AMD na magbigay ng credit guarantee para sa customer sa parehong proyekto.

"Mas agresibo ang Nvidia dahil mas malakas ang kanilang balance sheet," sabi ng isang source.

Lalo itong nakabubuti para sa mga data center developers: Handa ang Nvidia at AMD magbigay ng hanggang 15 taong credit support sa lease, samantalang dati, ang mga kontrata ng Nvidia sa ilang mga bagong cloud provider ay 6 na taon lamang ang haba.

Gastos sa kuryente: Hanggang 400% ang diperensya sa loob lang ng isang buwan

Ang kuryente ang pinakamataas na single cost sa pagpapatakbo ng data center, minsan mahigit pa sa isang-fifth ng kabuuang gastos o higit pa.

Sinabi ng isang credit executive na sa kanilang obserbasyon, sa loob ng parehong buwan, ang fluctuation sa presyo ng kuryente ng iba't ibang kliyente ay umaabot hanggang400%.

Kabaliwan dito: Akala ng bawat customer ay nakakuha sila ng magandang presyo, ngunit sa totoo lang, ang pinakamalalaking cloud provider ang kadalasang nagbabayad ng pinakamataas na presyo ng kuryente—dahil kaya nila.

Lumalawak pa ang pressure mula sa kakulangan ng kuryente. Ayon sa naunang ulat ng The Information, tinaya ni Elon Musk na magkakaroon ng matinding electric shortage pagsapit ng 2027 at nagpaplano siyang magtayo ng sariling planta para sa turbina. Samantala, ang ilang data center developers ay bumibili na ng mga natural gas turbine mula sa hindi klarong "fly-by-night companies" sa napakataas na presyo, na lalo pang nagpapataas sa gastos sa insurance at financing.

Ang lahat ng mga ito ay nagpapahirap sa pagsusuri ng cost forecast para sa data centers.

Ayon sa ulat, sa nakalipas na ilang taon, higit sadoble ang itinaas ng gastos sa pagtatayo ng isang 1 gigawatt na data center. Kung magpapatuloy pa ang pagsirit ng gastos, lalala rin ang pressure sa investor sentiment ng marami sa pinakamalalaking public companies sa mundo.

Fragmentation ng computing power: Isang ibang laro ng Nvidia

Sa gitna ng limitadong suplay ng malalaking data center, may ibang plano si Nvidia CEO Jensen Huang na ibinahagi sa Equinix customer conference.

"Ang computing power ay lumalapit sa fragmentation," sabi nya sa conference, "Ang mundo ng AI ay magiging fundamentally decentralized at highly distributed."

Inanunsyo ng Nvidia, Equinix, at Together AI sa conference ang isang joint na plano: bibili ang Together AI ng Nvidia hardware, ide-deploy ito sa kasalukuyang Equinix data centers, at mag-aalok ng open source AI model inference services sa maliliit at katamtamang laki ng negosyo.

Inilarawan ni Huang ang lohika ng arkitekturang ito: ang bahagi ng AI tasks na sensitibo sa latency ay tatakbo sa pinakamalapit na Equinix data center sa user; habang ang memory at inference tasks ay puwedeng gawin sa mas malalayong lugar.

Maging ang mga executive mula Google, Cisco, at bagong cloud provider na Lambda Labs ay nagpahayag sa conference ng parehong pananaw: AI inference ay papunta sa decentralization, at ang distributed network ng libo-libong maliliit na pasilidad ang maaaring maging mainstream sa hinaharap.