ML-инженер по продуктивизации LLM (инференс и поставка, MWS AI)

Чтобы вместе развивать цифровую культуру

МТС — ведущий технологический оператор связи в России*. Мы развиваем телеком нового поколения: объединяя связь, цифровые и финансовые сервисы с возможностями ИИ, формируем новые стандарты пользовательского опыта.
МТС — лидер технологий**.

Среда,
где тебя ценят
и поддерживают

MWS AI – это часть экосистемы МТС Web Services, где создаются AI-решения будущего. Голосовые ассистенты и чат-боты могут ответить на любой вопрос клиента, а компьютерное зрение \- распознавать лица и эмоции. Мы объединили сильных разработчиков, самый мощный суперкомпьютер, и прорывные идеи, чтобы делать жизнь людей комфортнее и безопаснее и помогать бизнесу.

Мы ищем опытного инженера, который доводит большие языковые модели от исследовательского чекпоинта до промышленной поставки: ускоряет инференс, квантует, измеряет качество и скорость, собирает поставку для клиентов и внутренних продуктов.

Чем предстоит заниматься:

• Квантование моделей (GPTQ, W8A8, FP8 и др.) и сравнение качества до и после.

• Ускорение инференса: speculative decoding, MTP, кэширование префиксов, логит-процессоры.

• Выбор и настройка рантаймов инференса (vLLM, SGLang, TensorRT-LLM, llama.cpp / MLX — по задаче).

• Нагрузочное тестирование и методология замера скорости: throughput, latency, длинный контекст.

• Автоматическая оценка моделей на бенчмарках и сравнение с open-source моделями (Qwen, GLM и др.).

• Подготовка релизов моделей: чекпоинт в S3, Docker-образ, поставка в продукты и клиентам.

• Разбор инцидентов у пользователей (качество, зацикливания, ошибки генерации).

Мы ждем от вас:

• Python на уровне промышленной разработки.

• Практический опыт инференса LLM хотя бы в одном рантайме (vLLM, SGLang, TensorRT-LLM или аналог).

• Понимание квантования и его влияния на качество.

• Опыт замеров производительности моделей на GPU (latency, throughput, утилизация).

• Docker; базовое понимание того, как модель запускается в Kubernetes.

• PyTorch, Hugging Face Transformers.

Будет плюсом

• Опыт оптимизации LLM — очень приветствуется: ускорение, сжатие, спарсификация моделей.

• CUDA и C++: написание и оптимизация ядер, чтобы самостоятельно реализовывать низкоуровневые оптимизации (например, спарсификацию модели).

• Speculative decoding, MTP, кастомные логит-процессоры.

• Triton Inference Server.

• ClearML или другой трекер экспериментов; автоматизация оценки.

• Работа с длинным контекстом и reasoning-режимами.

• Опыт поставки моделей во внешний контур клиента.

• Речевые модели (TTS, ASR).

Что мы предлагаем:

• Гибридный формат работы.
• Оклад + квартальные и годовые бонусы.
• Комфортный офис в 10 минутах пешком от метро Таганская.
• ДМС со стоматологией, страхование при поездках за рубеж, страхование жизни.
• Участие в конференциях и митапах, обучение за счет компании.
• Бесплатная мобильная связь.
• Специальные предложения от партнеров и друзей МТС.

ОБ АТМОСФЕРЕ

Посмотри наш ролик о работе и жизни в МТС

а что ещё

Корпоративная мобильная связь и интернет

Корпоративный университет и внешние курсы за счёт компании

Возможность работать дома или в ковркинге

ДМС
с первого месяца

Онлайн-консультации психологов, юристов и экспертов по ЗОЖ

Бесплатный доступ к онлайн-кинотеатру КИОН и сервисам КИОН Музыка и Строки

Компенсация на выбор: спорт, питание, обучение и другое

Скидки от партнёров и на продукты МТС

Бесплатное изучение иностранных языков

а что ещё

Корпоративная мобильная связь и интернет

Корпоративный университет и внешние курсы за счёт компании

Возможность работать дома или в коворкинге

ДМС
с первого месяца

Онлайн-консультации психологов, юристов и экспертов по ЗОЖ

Бесплатный доступ к онлайн-кинотеатру КИОН и сервисам КИОН Музыка и Строки

Компенсация на выбор: спорт, питание, обучение и другое

Скидки от партнёров и на продукты МТС

ПРИСОЕДИНЯЙСЯ К команде МТС

*J’son & Partners Consulting, сравнительный анализ технологического развития операторов связи, 2025 г.

**Лидер технологий — согласно сравнительному анализу технологического развития операторов связи, проведенному ООО «Джейсон энд Партнерс Консалтинг» 01.10.25 г.