Anthropic и OpenAI бараат помали капацитети за дата центри додека расте побарувачката за AI

Anthropic и OpenAI, две од водечките лаборатории за вештачка интелигенција, бараат договори за помали дата центри, дознава CNBC од извори запознаени со разговорите. Двете компании во изминатата година потпишаа големи договори за AI инфраструктура со капацитет од повеќе стотици мегавати и гигавати, но сега, според изворите, бараат и договори за сметачки капацитет за значително помали распоредувања од 20 до 30 мегавати.

Anthropic ги испитувала можностите за договори во тој опсег во Обединетото Кралство и во нордиските земји, изјавија за CNBC четири лица запознаени со разговорите, кои побараа да останат анонимни. OpenAI, пак, ги разгледувала можностите за помали распоредувања на капацитет во нордиските земји, според два од изворите. Еден извор навел дека е запознаен и со разговори на Anthropic и OpenAI за распоредувања на капацитет од тој обем во САД.

Портпарол на OpenAI изјави за CNBC дека компанијата гради диверзифицирано портфолио за сметачки капацитет за да одговори на растечката побарувачка за AI ширум светот. „Различните работни оптоварувања бараат различна инфраструктура, па водиме разговори со низа партнери и ги оценуваме можностите врз основа на нашите барања, перформанси, сигурност, време и трошоци“, додаде тој, нагласувајќи дека компанијата не коментира конкретни комерцијални разговори. Anthropic не даде коментар за CNBC.

Помалите договори за капацитет се често привлечни поради „брзината до употреблив капацитет“, изјави за CNBC Џабез Тан, шеф на истражување во Structure Research. „Обезбедувањето неколку мегавати на постоечка локација со напојување може да биде попрактично отколку чекањето многу поголем блок на една локација“, рече тој. Според него, за работни оптоварувања што можат да работат на одделни локации, збир од помали распоредувања може да достигне значителен капацитет.

Промената е важна бидејќи сè повеќе AI сметачки капацитет се преместува од тренирање модели кон нивно опслужување во продукција — процес познат како инференција. Тренирањето голем модел обично бара многу чипови што работат тесно заедно, додека многу задачи на инференција можат да опслужуваат одделни барања преку повеќе помали кластери, што отвора повеќе локации, објасни Тан.

Според извештај на компанијата за недвижнини JLL, учеството на вкупниот капацитет на дата центри што се користи за инференција се очекува да го надмине тренирањето во 2027 година. Во 2025 година инференцијата сочинувала 9 отсто од глобалните работни оптоварувања во дата центрите, наспроти 14 отсто за тренирање. До 2030 година, се предвидува инференцијата да користи 37 отсто од тој капацитет, наспроти само 13 отсто за тренирање.

Во февруари беше објавено дека Nvidia ќе соработува со неколку чинители во секторот на дата центри за проучување на помали дата центри наменети за дистрибуирана инференција. Американската компанија Crusoe, која изгради голем комплекс на дата центри во Тексас што го користи OpenAI, сега инвестира во помали дата центри, објави Wall Street Journal во четвртокот. Тие објекти ќе бидат побрзи и поевтини од поголемите градби, кои се соочуваат со одложувања низ САД, наведе весникот. Crusoe не одговори на барањето за коментар.