In this role, you will be a member of the MTIA (Meta Training & Inference Accelerator) Software team and part of the bigger PyTorch AI framework organization. MTIA Software Team has been developing a comprehensive AI Compiler strategy that delivers a highly flexible platform to train & serve new DL/ML model architectures, combined with auto-tuned high performance for production environments across specialized hardware architectures. The compiler stack, DL graph optimizations, and kernel authoring for specific hardware, directly impacts performance and deployment velocity of both AI training and inference platforms at Meta.
You will be working on one of the core areas such as PyTorch framework components, AI compiler and runtime, high-performance kernels and tooling to accelerate machine learning workloads on the current & next generation of MTIA AI hardware platforms. You will work closely with AI researchers to analyze deep learning models and lower them efficiently on MTIA hardware. You will also partner with hardware design teams to develop compiler optimizations for high performance. You will apply software development best practices to design features, optimization, and performance tuning techniques. You will gain valuable experience in developing machine learning compiler frameworks and will help in driving next generation hardware software codesign for AI domain specific problems.
-------
À ce poste, vous ferez partie de l'équipe logicielle MTIA (Meta Training & Inference Accelerator) et de la grande organisation du cadre d'IA PyTorch. L'équipe logicielle MTIA a mis au point une stratégie complète de compilateur d'IA qui offre une plateforme très flexible pour entraîner et servir de nouvelles architectures de modèles DL/ML, jumelée à un réglage automatique des performances élevées pour les environnements de production sur des architectures matérielles spécialisées. La pile de compilateurs, les optimisations de graphes DL et la création de noyaux pour un matériel spécifique ont un impact direct sur les performances et la vitesse de développement des plates-formes d'apprentissage et d'inférence d'IA chez Meta.
Vous travaillerez sur l'un des domaines clés tels que les composants du cadre PyTorch, le compilateur et le moteur d'exécution de l'IA, les noyaux de haute performance et l'outillage pour améliorer les charges de travail d'apprentissage automatique sur les plates-formes matérielles d'IA actuelles et de la prochaine génération de MTIA. Vous travaillerez en étroite collaboration avec les chercheurs en IA pour analyser les modèles d'apprentissage profond et les réduire efficacement sur le matériel MTIA. Vous vous associerez également aux équipes de conception de matériel pour développer des optimisations de compilateurs pour obtenir des performances élevées. Vous appliquerez les meilleures pratiques de développement logiciel pour concevoir des fonctionnalités, des techniques d'optimisation et de réglage des performances. Vous bénéficierez d'une expérience précieuse dans le développement de compilateurs d'apprentissage automatique et contribuerez à la conception de logiciels matériels de nouvelle génération pour les problèmes spécifiques du domaine d'IA.
Responsibilities
- Development of SW stack with one of the following core focus areas: AI frameworks, compiler stack, high performance kernel development and acceleration onto next generation of hardware architectures | Développement d'une pile de logiciels dans l'un des domaines fondamentaux suivants : Cadres d'IA, pile de compilateurs, développement de noyaux haute performance et accélération sur les architectures matérielles de nouvelle génération
- Contribute to the development of the PyTorch AI framework core compilers to support new state-of-the-art inference and training AI hardware accelerators and optimize their performance | Contribuer au développement des compilateurs de base du cadre d'IA PyTorch pour prendre en charge les nouveaux accélérateurs matériels d'IA de pointe en inférence et en entraînement, et optimiser leur performance
- Analyze deep learning networks, develop & implement compiler optimization algorithms | Analyser les réseaux d’apprentissage profond, développer et mettre en œuvre des algorithmes d’optimisation du compilateur
- Collaborating with AI research scientists to accelerate the next generation of deep learning models such as Recommendation systems, Generative AI, Computer vision, NLP etc | Collaborer avec les chercheurs en IA pour accélérer la prochaine génération de modèles d’apprentissage profond, tels que les systèmes de recommandation, l’IA générative, la vision par ordinateur, le traitement automatique du langage naturel, etc.
- Performance tuning and optimizations of deep learning framework & software components | Réglage et optimisation des performances du cadre d'apprentissage profond et des composants logiciels
Minimum Qualifications
- Experience developing software in C/C++ | Expérience en développement logiciel en C/C++
- Experience in AI framework development or accelerating deep learning models on hardware architectures | Expérience dans le développement de cadres d'IA ou dans l'accélération de modèles d'apprentissage profond sur des architectures matérielles
- Bachelor's degree in Computer Science, Computer Engineering, relevant technical field, or equivalent practical experience | Baccalauréat en informatique, en génie informatique ou dans un domaine technique pertinent, ou expérience pratique équivalente
Preferred Qualifications
- Experience adhering to and implementing responsible, ethical AI practices (e.g., risk assessment, bias mitigation, quality and accuracy reviews) | Expérience dans le respect et la mise en œuvre de pratiques d’IA responsables et éthiques (p. ex. : évaluation des risques, atténuation des biais, contrôles de qualité et de précision)
- OR AI Compiler: Experience with compiler optimizations such as loop optimizations, vectorization, parallelization, hardware specific optimizations such as SIMD. Experience with MLIR, LLVM, IREE, XLA, TVM, Halide is a plus | OU compilateur d’IA : Expérience en optimisation de compilateurs, notamment les optimisations de boucles, la vectorisation, la parallélisation et les optimisations propres au matériel comme SIMD. Une expérience avec MLIR, LLVM, IREE, XLA, TVM, Halide est un plus
- OR AI frameworks: Experience in developing training and inference framework components. Experience in system performance optimizations such as runtime analysis of latency, memory bandwidth, I/O access, compute utilization analysis and associated tooling development | OU cadres d'IA : Expérience dans le développement de composants d’entraînement et d’inférence d’un cadre (framework). Expérience en optimisation de la performance des systèmes, notamment l'analyse à l'exécution de la latence, de la bande passante mémoire et des accès E/S, l'analyse de l'utilisation de la puissance de calcul et le développement des outils connexes
- Knowledge of GPU, CPU, or AI hardware accelerator architectures | Connaissance des architectures de GPU, de CPU ou d'accélérateurs matériels d'IA
- Experience working with frameworks like PyTorch, Caffe2, TensorFlow, ONNX, TensorRT | Expérience de travail avec des cadriciels comme PyTorch, Caffe2, TensorFlow, ONNX et TensorRT
- Demonstrated ongoing AI skill development (e.g., prompt/context engineering, agent orchestration) and staying current with emerging AI technologies | Démonstration d'un perfectionnement continu des compétences en IA (p. ex., ingénierie des invites et du contexte, orchestration d'agents) et d'une mise à jour constante des connaissances sur les technologies émergentes en IA
- OR AI high performance kernels: Experience with CUDA programming, OpenMP / OpenCL programming or AI hardware accelerator kernel programming. Experience in accelerating libraries on AI hardware, similar to cuBLAS, cuDNN, CUTLASS, HIP, ROCm etc | OU des noyaux de calcul haute performance pour l'IA : Expérience en programmation CUDA, en programmation OpenMP/OpenCL ou en programmation de noyaux pour accélérateurs matériels d’IA. Expérience dans l’accélération de bibliothèques sur du matériel d’IA, comme cuBLAS, cuDNN, CUTLASS, HIP, ROCm, etc
- Demonstrated ability to integrate AI tools to optimize/redesign workflows and drive measurable impact (e.g., efficiency gains, quality improvements) | Capacité démontrée à intégrer des outils d’IA pour optimiser ou repenser les flux de travail et générer des retombées mesurables (p. ex., gains d’efficacité, améliorations de la qualité)
- A Bachelor's degree in Computer Science, Computer Engineering, relevant technical field and 7+ years of experience in AI framework development or accelerating deep learning models on hardware architectures OR a Master's degree in Computer Science, Computer Engineering, relevant technical field and 4+ years of experience in AI framework development or accelerating deep learning models on hardware architectures OR a PhD in Computer Science, Computer Engineering, or relevant technical field and 3+ years of experience in AI framework development or accelerating deep learning models on hardware architectures | Un baccalauréat en informatique, en génie informatique ou dans un domaine technique pertinent, ainsi qu’au moins sept ans d’expérience dans le développement de cadres d’IA ou l’accélération de modèles d’apprentissage profond sur des architectures matérielles ; OU une maîtrise en informatique, en génie informatique ou dans un domaine technique pertinent, ainsi qu’au moins quatre ans d’expérience dans le développement de cadres d’IA ou l’accélération de modèles d’apprentissage profond sur des architectures matérielles ; OU un doctorat en informatique, en génie informatique ou dans un domaine technique pertinent, ainsi qu’au moins trois ans d’expérience dans le développement de cadres d’IA ou l’accélération de modèles d’apprentissage profond sur des architectures matérielles
CA$133,000/year to CA$177,000/year + bonus + equity + benefits
