Чтобы адаптировать резюме под вакансию или составить сопроводительное письмо, загрузите резюме
описание
Команда инференса GigaChat разрабатывает движок, который обеспечивает быструю, экономичную и стабильную работу модели для пользователей. Сервис использует собственные архитектуры и мультимодальные модели, создавая кастомизированные решения для продакшена.
задачи
Заставлять новые архитектуры GigaChat работать на проде быстро;
Ускорять всё, что можно ускорить с помощью кастомных CUDA-ядер, квантизации, speculative decoding, оптимизаций KV-cache, continuous batching и других подходов;
Придумывать, как разложить большую модель по GPU и по кластеру для эффективного использования ресурсов;
Профилировать и находить причины задержек в ядре, раскладке памяти, сети или планировщике;
Держать прод движка, через который проходят все запросы к GigaChat;
Читать свежие статьи и код лучших движков для создания лучших решений с поправкой на собственные архитектуры.
требования
Опыт работы в области глубокого обучения, в том числе с LLM;
Глубокое знание CUDA и Python;
Опыт использования GigaChat, Kandinsky и аналогов в продуктах;
Навыки создания и использования AI-агентов.
условия
Комфортный современный офис рядом с метро Кутузовская;
Годовая премия;
Корпоративный спортзал и зоны отдыха;
Более 400 образовательных программ СберУниверситета для профессионального и карьерного развития;
Расширенный ДМС, льготное страхование для семьи и корпоративная пенсионная программа;
Ипотека для сотрудников по дисконтной программе;
Бесплатная подписка СберПрайм+, скидки на продукты компаний-партнеров;
Вознаграждение за рекомендацию друзей в команду Сбера.
.svg)
