Согласно недавней оценке исследовательской компании Epoch AI (https://epoch.ai/data-insights/agentic-inference-capacity-growth), чипы серии Blackwell от NVIDIA за последний год обеспечили 74% мировой мощности обработки запросов от новых агентов ИИ. В частности, одна карта GB300 при определенных условиях тестирования может обрабатывать примерно в 25 раз больше запросов от агентов, чем H100, и в 8 раз больше, чем H200.
Программные агенты должны многократно считывать код, сохранять историю диалогов и вызывать инструменты. Помимо вычислений, микросхемы также должны хранить большие объемы контекста в своей видеопамяти и быстро извлекать данные. Объем видеопамяти, пропускная способность чтения/записи и скорость связи между несколькими микросхемами влияют на количество агентов, которые могут работать одновременно.
Если измерять пиковую вычислительную мощность GB300 в традиционных вычислениях в секунду, она лишь примерно в 2,5 раза выше, чем у H100. Однако, учитывая эти факторы, компания Epoch AI оценивает пропускную способность обработки запросов агентами примерно в 25 раз выше.
Со второго квартала 2025 года по второй квартал 2026 года количество запросов от агентов, которые могут одновременно обрабатывать продаваемые по всему миру чипы для искусственного интеллекта, увеличилось в 4,6 раза, в то время как пиковая вычислительная мощность за тот же период выросла лишь в 2,6 раза.
Временно исполняющая обязанности генерального директора Nvidia Колетт Кресс подтвердила во время телефонной конференции по итогам финансового года 17 ноября, что компания прекратила поставки лицензированных чипов серии Hopper для центров обработки данных, включая H200, в Китай. Тем временем Huawei планирует выпустить Ascend 960DT в первом квартале 2027 года, заявленные характеристики пиковой вычислительной мощности FP8 которого приближаются к показателям H200.
