Introduction to Deploying RAG Pipelines for Production at Scale - Dag

Deze training is bedoeld voor:

• Machine Learning Engineers die RAG-toepassingen willen uitrollen in productieomgevingen
• AI-developers die schaalbare AI-diensten willen implementeren
• DevOps Engineers die Kubernetes-omgevingen beheren waarin AI-workloads draaien
• Software Architects die robuuste AI-architecturen ontwerpen
• Technical Leads die Proof-of-Concepts willen opschalen naar enterprise-productiesystemen

Leer hoe je schaalbare, productieklare Retrieval Augmented Generation (RAG)-pipelines opzet en beheert met Kubernetes, NVIDIA NIM's, Helm, Prometheus en Grafana.

Admission

• Basiskennis van Kubernetes en containerorkestratie.
• Ervaring met AI-modellen en LLM's is een pré.
• Bekendheid met Helm, Prometheus en Grafana is handig, maar niet verplicht.

Graduation

Na afloop van deze training ontvang je het deelnamecertificaat ‘Introduction to Deploying RAG Pipelines for Production at Scale’ van Computrain.

Objectives

De training is praktijkgericht en interactief. Je werkt hands-on in een Kubernetes-cluster en leert:

• Een infrastructuur opzetten
• Een RAG-pipeline uitrollen en configureren
• Monitoring inrichten
• Autoscaling implementeren
• Performance optimaliseren
• Alle onderdelen worden ondersteund met heldere uitleg, demonstraties en realistische labs.

Program guide

• Introductie: productieklare RAG-pipelines op schaal
• Kerncomponenten: NVIDIA NIM's, Kubernetes, Helm, Prometheus, Grafana
• Set-up Kubernetes: inrichten van de interactieve leeromgeving en basis-Kubernetes-commando's
• Deployment: end-to-end deployment van een RAG-pipeline met Helm en gebruik van individuele NIM-services
• Monitoring: toepassen van DCGM, configuratie van Prometheus en Grafana voor performance monitoring
• Autoscaling: implementatie van horizontale autoscaling (HPA) op basis van aangepaste metrics
• Load Testing: belastingstesten uitvoeren en prestatie-analyses maken

Course schedule

Characteristics

Short program

Commercial partners