MLOps & Model Deployment
KI-Apps containerisieren mit Podman, Docker & Kubernetes
Vom Container zur skalierbaren Inferenz: Images, Deployments, GPU, Security und Betrieb im Cluster
- Dauer
- 3 Tage
- Format
- Präsenz oder Live-Online
- Preis
- 1.950 € netto
- Uhrzeiten
- 9:00-16:00 Uhr
- Gruppe
- max. 8 Personen
- Niveau
- Grundlagen
- Kursnummer
- KKC_0233
Aktuelle Termine und Online-Buchung: www.cmt.de/seminare/ki-apps-docker-kubernetes
KI-Apps containerisieren mit Podman, Docker & Kubernetes
Vom Container zur skalierbaren Inferenz: Images, Deployments, GPU, Security und Betrieb im Cluster
Die wichtigsten Themen
Images für Inferenz bauen
GPU-Container betreiben
Kubernetes-Deployments umsetzen
Canary- und Blue-Green-Releases
Secrets, SBOM und Image-Scanning
Metriken, Logs und Rollbacks
Überblick In diesem Seminar lernst du, wie du KI-Anwendungen mit Docker, Podman und Kubernetes so containerisierst, dass sie reproduzierbar, sicher und betreibbar werden. Du baust belastbare Images für Inferenz-APIs,...
In diesem Seminar lernst du, wie du KI-Anwendungen mit Docker, Podman und Kubernetes so containerisierst, dass sie reproduzierbar, sicher und betreibbar werden. Du baust belastbare Images für Inferenz-APIs, organisierst Abhängigkeiten und Modellartefakte sauber und bringst GPU-Workloads zuverlässig in Container. Wer Container-Grundlagen gezielt vertiefen möchte, findet im Linux Container Workshop mit Docker und Podman eine passende Basis.
Anschließend setzt du Deployments im Kubernetes-Cluster auf, konfigurierst Services, Ingress, Healthchecks und Rollouts und etablierst Muster für Modellversionierung inklusive Canary- und Blue-Green-Releases. Für Teams, die zuerst Kubernetes-Grundlagen aufbauen möchten, passt der Kubernetes Grundkurs als vorbereitende Schulung. Ein weiterer Schwerpunkt liegt auf Security und Supply Chain: Secrets, Least Privilege, Image-Scanning und SBOM. Zum Abschluss arbeitest du an Observability und Betrieb, damit Latenz, Durchsatz und Fehlerquoten messbar sind und Releases kontrolliert zurückgerollt werden. Zur Vertiefung der Betriebsüberwachung eignet sich anschließend der Monitoring-Grundkurs mit Prometheus und Grafana.
Die Themen Images für Inferenz und Training · Base-Images, Layering und Caching · Reproduzierbare Python-Abhängigkeiten · Wheels, Lockfiles und Build-Strategien · Modellartefakte und Datenablage...
Container-Setup für KI-Workloads
- Images für Inferenz und Training
- Base-Images, Layering und Caching
- Reproduzierbare Python-Abhängigkeiten
- Wheels, Lockfiles und Build-Strategien
- Modellartefakte und Datenablage
- Healthchecks, Logging und Environment-Konfiguration
Performance und GPU-Betrieb
- NVIDIA Container Toolkit / Runtime
- CUDA-Images und Treiber-Kompatibilität
- Warmup für Inferenz-Services
- Batching und Concurrency-Steuerung
- CPU-, RAM- und GPU-Limits
- IO-Engpässe bei Modellzugriffen
Kubernetes für KI-Services
- Pods, Deployments und Services
- Ingress für Inferenz-APIs
- ConfigMaps für Anwendungskonfiguration
- Secrets für sensible Zugangsdaten
- Readiness- und Liveness-Probes
- HPA, Requests und Limits
Deployment-Muster für Modelle und APIs
- REST- und gRPC-Inferenz-APIs
- FastAPI als Beispiel-Stack
- Modellversionierung über Image-Tags
- Immutable Images und Registry-Strategien
- Blue-Green- und Canary-Releases
- Batch-Inferenz und Scheduled Jobs
Security und Supply Chain
- Least Privilege für Container
- Rootless-Betrieb und Capabilities
- Pod Security im Cluster
- Image-Scanning und Schwachstellenbewertung
- SBOM für Software-Komponenten
- Netzwerk-Policies und sicherer Ingress
Observability und Betrieb
- Latenz, Throughput und Fehlerraten
- Queueing-Metriken bei Inferenz
- Logs und Traces zur Fehleranalyse
- Rollbacks für fehlerhafte Deployments
- Incident-Playbooks für Modell-Releases
- GPU-Auslastung und Kapazitätsplanung
Zielgruppe
- ML Engineers und Data Scientists mit Verantwortung für Deployment und Betrieb von KI-Services
- DevOps Engineers und Platform Engineers, die KI-Workloads in Container-Plattformen integrieren
- Softwareentwicklerinnen und Softwareentwickler, die Inferenz-APIs containerisiert bereitstellen
- IT-Architektinnen und IT-Architekten, die Standards für KI-Deployment, Security und Betrieb definieren
Das lernst du
- Reproduzierbares Paketieren von KI-Inferenz-Anwendungen als Container-Images
- Sicherer Umgang mit GPU-Containern, Ressourcensteuerung und Kompatibilitätsfragen
- Eigenständiges Deployment von KI-Services in Kubernetes inklusive Services, Ingress und Healthchecks
- Kontrollierte Modellupdates mit Versionierung, Canary-Releases und Blue-Green-Deployments
- Absicherung von Container-Workloads durch Secrets, Least Privilege, Image-Scanning und SBOM
- Betrieb bewerten über Metriken, Logs, Rollbacks und Incident-Playbooks
So arbeiten wir
- Kurze Theorieblöcke mit klaren Entscheidungsregeln
- Geführte Hands-on-Übungen in bereitgestellten Umgebungen
- Praxisnahe Checklisten für Build, Security, Rollout und Betrieb
- Gemeinsame Auswertung typischer Fehlerbilder
Empfohlene Vorkenntnisse
- Grundkenntnisse in Linux, CLI und Container-Konzepten, zum Beispiel aus der Schulung Einführung in Container mit Podman
- Erste Berührung mit Kubernetes, Cloud-Networking oder Orchestrierung, zum Beispiel durch Container Management und Orchestrierung
- Grundverständnis für Python-basierte KI-Services oder REST-APIs
Dein Fahrplan
Der erste Tag behandelt den Aufbau reproduzierbarer Container-Images für KI-Inferenz-Anwendungen. Im Mittelpunkt stehen Base-Images, Layering, Caching, Python-Abhängigkeiten, Lockfiles, Modellartefakte, Mounts, Volumes, Object-Storage-Patterns sowie Konfiguration über Environment-Variablen.
- Image-Aufbau für Inferenz und Training
- Dependency-Strategien für Python-Services
- Artefakt-Handling für Modelle und Daten
- Healthchecks, Logging und Konfiguration
Organisatorisches
Lernformate
Unsere Seminare bieten dir maximale Flexibilität: Du kannst zwischen Live-Online und Vor Ort in unseren modernen Schulungszentren im D-A-CH Raum wählen. Beide Formate garantieren dir die gleiche hohe Qualität und interaktive Lernerfahrung.
Schulungsarten
Wir bieten dir verschiedene Schulungsarten: Offene Seminare, Firmenseminare für Teams und Inhouse-Schulungen direkt bei dir vor Ort. So findest du genau das Format, das zu deinen Bedürfnissen passt.
Uhrzeiten
9:00-16:00 Uhr
Aktuelle Software
In unseren offenen Kursen arbeiten wir mit der aktuellsten Software-Version. So lernst du direkt mit den Tools und Features, die du auch in deinem Arbeitsalltag verwendest - mit klarem Alltagsbezug und zukunftsorientiert. Bei Inhouse- und Firmenschulungen bestimmt ihr die Version.
Deine Vorteile
Zufriedenheitsgarantie
Wir sind von unserer Qualität überzeugt. Sollte ein Training einmal nicht deinen Erwartungen entsprechen, bieten wir dir an, den Kurs kostenlos zu wiederholen oder ein anderes Training zu besuchen. Ohne Risiko, ohne Diskussion.
Inklusivleistungen
Deine Teilnahme beinhaltet: Schulungsmaterial, Zertifikat, Verpflegung (bei Präsenzveranstaltungen) und persönliche Betreuung durch unsere Trainer und unser Orga-Team. Alles aus einer Hand - keine versteckten Kosten.
Lernen von Experten
Unsere Trainer sind zertifizierte und erfahrene Profis mit jahrelanger Berufserfahrung. Sie vermitteln dir in den Kursen nicht nur theoretisches Wissen, sondern teilen ihre Erfahrungen aus realen Projekten und helfen dir, das Gelernte direkt in deiner täglichen Arbeit anzuwenden. Das ist kein Werbeversprechen, sondern unser Anspruch. Am besten siehst du das in unseren Bewertungen, z.B. auch bei Google.
Keine Vorkasse
Du zahlst erst nach dem Seminar. Keine Vorkasse, keine Vorauszahlung - so kannst du sicher sein, dass du nur für das bezahlst, was du auch wirklich erhalten hast. Die Rechnung erhältst du erst nach Kursbeginn.
Max. 8 Teilnehmende
Wir setzen auf kleine Gruppen, damit du die Aufmerksamkeit bekommst, die du verdienst. So haben wir mehr Zeit für deine individuellen Fragen und können gezielt auf deine Bedürfnisse eingehen.
Termine und Preise
| Zeitraum | Ort | Preis (netto) |
|---|---|---|
| 07.12. - 09.12.2026 | München oder Live-Online | 1.950 € |
| 11.01. - 13.01.2027 | München oder Live-Online | 1.950 € |
| 15.03. - 17.03.2027 | München oder Live-Online | 1.950 € |
| 10.05. - 12.05.2027 | München oder Live-Online | 1.950 € |
| 05.07. - 07.07.2027 | München oder Live-Online | 1.950 € |
| 13.09. - 15.09.2027 | München oder Live-Online | 1.950 € |
Alle Preise zuzüglich gesetzlicher Mehrwertsteuer. Freie Plätze und weitere Termine findest du unter www.cmt.de/seminare/ki-apps-docker-kubernetes.
Firmenschulung und Inhouse
Diese Schulung gibt es auch exklusiv für dein Unternehmen, bei euch vor Ort, an unseren Standorten oder Live-Online. Inhalte und Termine stimmen wir mit euch ab.
Dein Kontakt bei cmt
Yves Hoppe
Telefon 0800 71 20000
yves.hoppe@cmt.de
Termine & Buchung
Vor Ort
Online
Nicht der passende Termin dabei?
Wir finden eine Lösung: anderer Termin, mehrere Teilnehmer, Inhouse-Schulung oder individuelle Beratung.
Lieber gleich das ganze Team schulen?
Diese Schulung gibt es auch exklusiv für dein Unternehmen, bei euch vor Ort, an unseren Standorten oder Live-Online. Inhalte und Termine nach Maß.
Wie die Planung abläuft, was ein Zuschnitt kostet und welche Themen wir abdecken, steht auf unserer Seite zu Inhouse Schulungen im Bereich MLOps.
Inhouse-Schulung
Wir kommen zu euch: diese Schulung maßgeschneidert in euren Räumen, für Unternehmen und Behörden.
- Inhalte exakt auf euch zugeschnitten
- Termine nach euren Bedürfnissen
- Günstiger ab mehreren Teilnehmern
- Vertraute Umgebung, kein Reiseaufwand
Firmen-Seminar
Exklusiv für dein Team an einem unserer Standorte oder Live-Online, individuell angepasst.
- Geschlossene Gruppe aus eurem Haus
- Individuelle Terminplanung
- An unseren Standorten oder Live-Online
- Angepasste Inhalte
Fragen und Antworten zu KI-Apps containerisieren mit Podman, Docker & Kubernetes
Brauche ich eigene Hardware oder Lizenzen?
Nein. Geräte, VMs und Software werden dir, falls erforderlich, zur Verfügung gestellt. Die Übungen sind so angelegt, dass Build, Deployment, Security und Betrieb nachvollziehbar trainiert werden.
Ist die Schulung eher für Data Science oder DevOps gedacht?
Die Schulung verbindet beide Perspektiven. Du arbeitest an der Schnittstelle zwischen KI-Service, Container-Image, Kubernetes-Deployment und Betrieb. Für eine stärkere Cloud- und MLOps-Perspektive passt ergänzend MLOps Engineering on AWS.
Behandelt das Seminar auch Modelltraining im Cluster?
Trainings-Container und Job-Workloads werden eingeordnet, der Schwerpunkt liegt jedoch auf Inferenz, reproduzierbaren Images und produktionsnahen Deployments im Kubernetes-Cluster.
Geht es um bestimmte Frameworks wie PyTorch oder TensorFlow?
Die Schulung ist frameworkbezogen, aber nicht auf ein einzelnes Framework festgelegt. Die Muster gelten für typische Python-basierte KI-Services, Inferenz-APIs und Container-Deployments.
Welche Rolle spielen CI/CD und Registries?
CI/CD wird im Zusammenhang mit Image-Builds, Tags, Registry-Strategien, Rollouts und Rollbacks behandelt. Wer Pipelines gezielt vertiefen möchte, findet in Source Code Management und CI / CD eine passende Ergänzung.
Ist Kubernetes-Vorwissen zwingend erforderlich?
Grundkenntnisse sind hilfreich, aber nicht zwingend. Die relevanten Kubernetes-Bausteine werden auf den Betrieb von KI-Services bezogen erklärt: Deployments, Services, Ingress, ConfigMaps, Secrets, Probes und HPA.
Weitere häufig gestellte Fragen und Antworten findest du in den FAQs.
Passende Schulungen nach dem Kurs
Ähnliche Kurse
Kimi K3.1: OpenSource LLM sofort produktiv
Open-Source-LLMs lokal betreiben: Grundkurs
Mistral-KI Training: Europas LLM-Stack im Einsatz
Qwen 3.8 Training: Lokaler und API-Betrieb
KI-Infrastrukturplanung: On-Premise vs. Cloud
Unser Qualitätsversprechen: Wissen, das in der Praxis funktioniert
Aus der Praxis für die Praxis
Schluss mit theoretischem Ballast. Wir trainieren dich für reale IT-Herausforderungen, nicht für Multiple-Choice-Tests. Unsere Trainer vermitteln dir genau das Wissen, das am nächsten Montagmorgen im Job wirklich funktioniert.
Individuell statt "Schema F"
Deine Fragen passen nicht ins Standard-Skript? Bei uns schon. Wir verzichten auf starre Lehrpläne und geben deinen konkreten Projekt-Fragen Raum. Unsere Trainer passen die Inhalte flexibel an das an, was dich und dein Team aktuell weiterbringt.
Maximale Freiheit: Remote oder vor Ort
Lerne so, wie es in deinen Alltag passt - ohne Reise-Stress und Zeitverlust. Egal ob remote, hybrid oder präsent vor Ort: Wir garantieren dir ein nahtloses und effektives Lernerlebnis, egal von wo du dich zuschaltest.
Mit Zufriedenheitsgarantie
Wir sind von unserer Qualität überzeugt - und wollen, dass du es auch bist. Sollte ein Training einmal nicht deinen Erwartungen entsprechen, bieten wir dir an, den Kurs kostenlos zu wiederholen oder ein anderes Training zu besuchen. Ohne Risiko, ohne Diskussion.
Über 20.000 Unternehmen und Behörden vertrauen auf uns
