Li Auto рассматривает возможность разработки собственного облачного чипа для инференса. По данным LatePost, проект находится на ранней стадии и будет использовать ту же архитектуру dataflow, что и чип для ассистированного вождения компании.
Облачные инференс-чипы способны взять на себя часть вычислительных задач, которые сейчас выполняют GPU. Речь идет об обработке данных, тестировании и симуляции для моделей ассистированного вождения, а также об обслуживании запросов больших языковых моделей. При этом этапы обучения, связанные с обновлением параметров, по-прежнему требуют специализированных чипов.
Перенос архитектуры dataflow с автомобиля в облако технически осуществим, отмечают отраслевые источники. Один из путей — переиспользовать вычислительную схему автомобильного NPU, объединив несколько вычислительных кристаллов, добавив высокоскоростную память и межчиповые соединения. Это позволило бы автомобильной и облачной сторонам разделять часть дизайна и программных инструментов, распределяя затраты на разработку.
Однако облачный чип — не просто увеличенная версия автомобильного. На стороне автомобиля модели, сенсорные входы и рабочие ритмы относительно фиксированы, а приоритеты — низкое энергопотребление, низкая задержка и стабильность. В облаке же требуется одновременно обрабатывать больше моделей, быстрее их обновлять, справляться с колебаниями длины входных данных и числа параллельных запросов, а также решать задачи высокоскоростной памяти, межчиповых соединений, динамической пакетной обработки и планирования кластеров. По словам собеседника из чип-индустрии, достичь целевых показателей производительности на одном чипе не самое сложное — главная трудность в том, чтобы сделать общую стоимость инференса конкурентоспособной.
Архитектуры dataflow также изучают SambaNova, Groq и Tenstorrent. Ядро команд SambaNova и Groq вышло из Стэнфорда и проекта Google TPU соответственно, а Tenstorrent возглавляет Джим Келлер, ранее руководивший разработкой чипов для автопилота Tesla. По сравнению с GPU такие архитектуры еще должны доказать себя в универсальности моделей, экосистеме ПО и масштабном развертывании.
На фоне продвижения облачного проекта компанию покинули руководитель разработки чипового ПО Jin Yihua и глава одной из групп фронтенд-дизайна Dai Jie. Оба ранее подчинялись главе вычислительного подразделения Luo Min, который отчитывается перед техническим директором Xie Yan. Повлияют ли кадровые изменения на ход проекта, пока неясно.
Собственный чип для ассистированного вождения Mach M100 Li Auto представила 12 мая. Он выполнен по 5-нм автомобильному техпроцессу и обеспечивает 1280 TOPS на чип; двухчиповая версия дает суммарно 2560 TOPS. Чип уже в серийном производстве в новых Li L9, L8 и L6. Основатель компании Ли Сян ранее говорил, что собственный чип нужен не для демонстрации технологий, а для того, чтобы ИИ реально работал в физическом мире.
13 июля Li Auto зарегистрировала новую компанию Xinchuang Zhihe (Shanghai) Technology Co Ltd, в сферу деятельности которой входит проектирование интегральных схем. Это может указывать на планы выделить полупроводниковый бизнес в отдельное направление — по образцу Nio, создавшей в июне 2025 года чип-дочернюю компанию GeniTech, привлекшую около 3 млрд юаней при оценке примерно 8,27 млрд юаней. Xpeng также установила собственный чип Turing в свои автомобили.