Опрос 107 предприятий от VentureBeat вскрывает парадокс. Бизнес разгоняет вложения в AI-инфраструктуру быстрее, чем успевает понять, во что вообще вкладывается и сколько это реально стоит.
Цифры говорят сами за себя: лишь 21% компаний запустили AI в промышленную эксплуатацию в полном масштабе, остальные всё ещё экспериментируют. Но главное направление будущих инвестиций — специализированные AI-облака (CoreWeave, Lambda, Crusoe и подобные), которыми сегодня пользуется меньше 2% опрошенных. Компании готовятся вложиться в то, чего толком ещё не пробовали.
Хуже другое: у 83% предприятий графические процессоры, которые уже куплены и оплачены, загружены на 50% или меньше. Это как арендовать цех на полную мощность и использовать половину станков. При этом только 44% компаний могут чётко посчитать, во что им обходится AI-инфраструктура — притом что при выборе поставщика именно совокупная стоимость владения (а не цена за токен) остаётся вторым по важности критерием после совместимости с текущими системами. Получается, что бизнес выбирает поставщиков по метрике, которую сам толком не умеет измерять.
Добавим сюда бешеную текучку: 64% компаний планируют сменить или добавить поставщика инфраструктуры в течение года, причём 38% — уже в ближайший квартал. И на горизонте маячит новый барьер, о котором почти никто не думает: переход узкого места от вычислительной мощности к пропускной способности памяти (так называемый KV-cache) при масштабировании AI-моделей. Каждый пятый опрошенный либо не знает об этой проблеме, либо ещё не начал её решать.
Вывод простой и неприятный: деньги в AI-инфраструктуру текут рекой, а зрение у тех, кто её направляет, отстаёт на несколько шагов. Больше мощностей не решит проблему — сначала нужно научиться видеть, за что вообще платишь.
Во что углубиться:
- Что такое GPU utilization и почему простаивающие видеокарты — дорогое удовольствие
- Neocloud-провайдеры: чем CoreWeave и Lambda отличаются от AWS и Google Cloud
- Переход от GPU-compute к memory bandwidth: почему это следующий барьер для AI-инференса