Senior Solutions Architect – Large Scale AI Training

Nvidia

Activa - Comprobada hace 10h

Tipo de Contrato: Indefinido

Jornada Laboral: Completa

Modalidad: Remoto

€

Salario anual bruto: No especificado

Años de experiencia: 7

Nivel Educativo: Doctorado

Idiomas: Inglés,Castellano

Descripción del puesto

Desarrollar y optimizar estrategias de entrenamiento distribuido para modelos a gran escala. Guiar a clientes en la definición de la pila de software e infraestructuras para entrenamiento y flujos post-entrenamiento, incluyendo RL. Servir como referente técnico en estrategias de entrenamiento distribuido para facilitar implementaciones eficientes.
- Definir e implementar estrategias de entrenamiento distribuido para modelos a gran escala utilizando Megatron-LM, NeMo y PyTorch.
- Guiar a clientes en la definición de stack de software e infraestructuras para entrenamiento y flujos post-entrenamiento, incluyendo RL.
- Optimizar la utilización de GPUs, la superposición de comunicaciones y la gestión de memoria en entrenamiento y fine-tuning a gran escala.

- MS o PhD en Informática, Ingeniería u experiencia equivalente.
- Más de 7 años de experiencia práctica en entrenamiento de IA distribuido con entornos HPC y clústeres multi-nodo.
- Fuerte dominio de Megatron-LM, NeMo o marcos equivalentes de entrenamiento distribuido.

Más ofertas de Ingeniería / Técnica en Otro / No especificado