DeepSeek и Huawei объединяют усилия, чтобы бросить вызов доминированию Nvidia в области вычислительной мощности для искусственного интеллекта: они участвуют в разработке чипов следующего поколения и стремятся к предварительному обучению на чипах отечественного производства к концу года.
По данным Beating AI News, в прошлом году DeepSeek попыталась обучить R2, используя чип Huawei Ascend, но в итоге потерпела неудачу. Financial Times тогда сообщила о проблемах со стабильностью чипа, связью между SIM-картами и программной поддержкой. Даже после того, как Huawei отправила инженеров для оказания помощи на месте, DeepSeek в итоге вернулась к чипам Nvidia для завершения обучения.
Спустя более года сотрудничество между двумя сторонами углубилось в область проектирования аппаратного обеспечения. Издание The Information (https://www.theinformation.com/articles/deepseek-shaping-huaweis-ai-chips-growing-challenge-nvidia) сообщает, что инженеры Huawei длительное время работали в офисах DeepSeek, напрямую учитывая практические потребности обучения моделей при проектировании чипа Ascend следующего поколения, включая организацию вычислительных задач и передачу данных между чипами.
В конце сентября этого года компания DeepSeek открыла исходный код своей версии TileLang для Ascend, а также базовых инструментов, таких как матричные вычисления и экспертная коммуникация MoE, что сократило объем работы по разработке моделей для переноса на микросхемы отечественного производства. Однако, хотя программное обеспечение и работает, до полного предварительного обучения еще далеко. Десятки тысяч микросхем должны непрерывно работать вместе в течение нескольких недель, и отказ любой из них или задержка передачи данных могут замедлить работу всего кластера. Сейчас обе стороны начинают решать эти проблемы на этапе проектирования микросхем.
Компания Huawei планирует в первую очередь поставлять большую часть своих чипов Ascend 960DT, которые будут готовы в первом квартале 2027 года, компании DeepSeek, а не распространять их среди других компаний-разработчиков моделей. DeepSeek, в свою очередь, намерена начать предварительное обучение с использованием 950DT уже к концу этого года. В ходе текущего тестирования уже было использовано более 1000 чипов, а для полного предварительного обучения могут потребоваться десятки тысяч, при этом некоторые программы управления кластерами еще не завершены. Тем временем DeepSeek продолжает поиск дополнительных чипов NVIDIA.