Senior Linux инженер (GPU)

Мы - команда инженеров, которые строят платформу для инференса и SFT opensource LLM. Используем продвинутые cutting edge движки для инференса, много экспериментируем и боремся за каждую дополнительную единицу в Token thoughput. Cейчас мы находимся в поиске Linux инженера, который возьмет на себя вопросы, связанные с разворачиванием, настройкой и тонким тюнингом core Linux для обеспечения оптимальной работы инференс движков.

Чем предстоит заниматься

• настраивать, поддерживать и траблшутить GPU-инфраструктуру Блока
• настраивать логирование, мониторинг и алертинг работоспособности всех компонентов инфраструктуры
• коммуницировать со смежными подразделениями в части улучшений инфраструктурного ландшафта Блока — участвовать в оценках инфраструктуры под новые продукты и проекты.

Требования

• продакшн опыт работы с GPU-инфраструктурой и инференсом SOTA LLM
• опыт с ОС Linux: основные дистрибутивы, troubleshooting работы сервисов, оценка «здоровья» системы.
• глубокое понимание этапов настройки ОС: сеть, диски, основные сервисы.
• понимание устройства baremetal-сервера: CPU, RAM, сеть, хранение, шина PCI, топология GPU (NVLink/PCIe); ввод узлов в эксплуатацию, драйверы NVIDIA, CUDA
• понимание сетевого уровня: протоколы TCP/IP, Ethernet, VLAN, MTU, TTL, DHCP, DNS, ARP, NTP.
• опыт работы с инструментами мониторинга и логирования: Grafana, Elasticsearch, OpenTelemetry.
• написание скриптов на bash, знание systemd
• навыки программирования на Python.

Будет плюсом

• опыт работы с высокоскоростными interconnect-технологиями GPU-кластеров( RDMA/RoCe/Infiniband) и понимание работы NCCL.

Мы предлагаем

• гибридный формат работы (2-3 дня в офисе) г. Москва
• годовой бонус и ежегодный пересмотр
• расширенный ДМС с первого дня + стоматологию и льготное страхование для семьи
• корпоративный университет Сбера, внутреннюю образовательную платформу, участие в IT-конференциях
• офис на Кутузовской с зонами отдыха и спортзалом
• льготную ипотеку в Сбере, корпоративную пенсионную программу, подписку СберПрайм с возможностью совместного использования на трёх близких, скидки от партнеров и сервисов группы компаний.