Die wichtigsten Themen
27B lokal mit llama.cpp betreiben
Quantisierung nach VRAM auswählen
Plus-Variante online anbinden
Eigene Aufgaben mit Testkriterien prüfen
Agenten und Tool-Aufrufe absichern
Betriebsweg anhand von Messwerten wählen
Überblick Die 27B-Variante von Qwen 3.8 liefert aussagekräftige Ergebnisse, wenn Modellformat, VRAM und Inferenzparameter zur Aufgabe passen. Im Training startest du Qwen3.8-27B mit llama.cpp und beobachtest, wie Q5_K_M, Q8_0...
Die 27B-Variante von Qwen 3.8 liefert aussagekräftige Ergebnisse, wenn Modellformat, VRAM und Inferenzparameter zur Aufgabe passen. Im Training startest du Qwen3.8-27B mit llama.cpp und beobachtest, wie Q5_K_M, Q8_0 oder NVFP4 den Speicherbedarf und die Ausgabe beeinflussen. Eine vorbereitete Umgebung hält Prompt, Testdaten und Messpunkte konstant. So entsteht ein Vergleich für deine konkrete Programmier- oder Agentenaufgabe. Für rechenintensive Fälle bindest du die Plus-Variante online ein und prüfst den Datenweg vor dem Aufruf. Sicherheitsübungen behandeln Werkzeugrechte, Prompt Injection und abliterated Modelle anhand konkreter Freigabekriterien. Hardware, VMs und benötigte Software stehen bereit. Ein eigenes Notebook und eigene Lizenzen brauchst du nicht. Frage einen Termin an, wenn du Qwen 3.8 unter deinen technischen Rahmenbedingungen bewerten möchtest.
Die Themen 27B-Variante mit Open Weights · Plus-Variante über Online-Zugang · Modellkarten und Lizenzbedingungen · Einsatzprofile für Code und Agenten · VRAM-Bedarf bei wachsendem Kontext · Q5_K_M und Q8_0 im Vergleich...
Qwen 3.8 und Betriebswege
- 27B-Variante mit Open Weights
- Plus-Variante über Online-Zugang
- Modellkarten und Lizenzbedingungen
- Einsatzprofile für Code und Agenten
Hardware und Quantisierung
- VRAM-Bedarf bei wachsendem Kontext
- Q5_K_M und Q8_0 im Vergleich
- NVFP4 auf kompatibler NVIDIA-Hardware
- Key-Value-Cache und Speicherreserve
Lokale Inferenz
- Hugging Face als Modellquelle
- llama.cpp als Inferenzumgebung
- Unsloth Desktop für lokale Starts
- Kontext- und Sampling-Parameter
- Protokollierung von Laufzeitmessungen
Plus-Variante online
- Zugangsdaten und Endpunktkonfiguration
- Anfragen an die Plus-Variante
- Systemanweisungen für strukturierte Ausgaben
- Fehlerbehandlung bei Online-Aufrufen
- Kosten- und Latenzgrenzen
Eigene Modelltests
- Aufgabenspezifische Testfälle
- Codetests mit festen Akzeptanzkriterien
- Agentenläufe mit Werkzeugaufrufen
- Qualitätsvergleich der Quantisierungen
- Token-Durchsatz und Antwortlatenz
Sicherheit und Einsatzfreigabe
- Datenwege bei lokalem und Online-Betrieb
- Prompt Injection bei Werkzeugaufrufen
- Berechtigungen nach dem Minimalprinzip
- Risiken abliterierter Modellvarianten
- Freigabekriterien für den Einsatz
Zielgruppe
- KI-Entwickler mit ersten LLM-Projekten
- DevOps-Fachkräfte für lokale Inferenz
- IT-Architekten mit Open-Weights-Vorhaben
- Security-Fachkräfte für agentische Anwendungen
Das lernst du
- Qwen3.8-27B in einer lokalen Inferenzumgebung starten
- Quantisierung anhand von VRAM und Testwerten auswählen
- Die Plus-Variante über einen Online-Endpunkt anbinden
- Wiederholbare Modelltests mit Akzeptanzkriterien entwickeln
- Werkzeugaufrufe nach dem Minimalprinzip begrenzen
- Den Betriebsweg dokumentieren, damit sensible Eingaben im vorgesehenen Datenweg bleiben
So arbeiten wir
Kurze Fachimpulse wechseln mit geführten Laborübungen auf bereitgestellten GPU-Systemen. Einzelne Messreihen werden im Workshop verglichen; Review-Runden prüfen Konfiguration, Datenweg und Freigabekriterien.
Empfohlene Vorkenntnisse
- Grundkenntnisse zu Large Language Models und Prompting
- Erfahrung mit Python oder einer vergleichbaren API-Sprache
Dein Fahrplan
- 27B- und Plus-Variante vergleichen
- Modellkarten und Lizenzen prüfen
- VRAM-Bedarf und Speicherreserve berechnen
- Qwen3.8-27B mit llama.cpp starten
Organisatorisches
Lernformate
Unsere Seminare bieten dir maximale Flexibilität: Du kannst zwischen Live-Online und Vor Ort in unseren modernen Schulungszentren im D-A-CH Raum wählen. Beide Formate garantieren dir die gleiche hohe Qualität und interaktive Lernerfahrung.
Schulungsarten
Wir bieten dir verschiedene Schulungsarten: Offene Seminare, Firmenseminare für Teams und Inhouse-Schulungen direkt bei dir vor Ort. So findest du genau das Format, das zu deinen Bedürfnissen passt.
Uhrzeiten
09:00-16:00 Uhr
Aktuelle Software
In unseren offenen Kursen arbeiten wir mit der aktuellsten Software-Version. So lernst du direkt mit den Tools und Features, die du auch in deinem Arbeitsalltag verwendest - praxisnah und zukunftsorientiert. Bei Inhouse- und Firmenschulungen bestimmt ihr die Version.
Deine Vorteile
Zufriedenheitsgarantie
Wir sind von unserer Qualität überzeugt. Sollte ein Training einmal nicht deinen Erwartungen entsprechen, bieten wir dir an, den Kurs kostenlos zu wiederholen oder ein anderes Training zu besuchen. Ohne Risiko, ohne Diskussion.
Inklusivleistungen
Deine Teilnahme beinhaltet: Schulungsmaterial, Zertifikat, Verpflegung (bei Präsenzveranstaltungen) und persönliche Betreuung durch unsere Trainer und unser Orga-Team. Alles aus einer Hand - keine versteckten Kosten.
Lernen von Experten
Unsere Trainer sind zertifizierte und erfahrene Profis mit jahrelanger Berufserfahrung. Sie vermitteln dir in den Kursen nicht nur theoretisches Wissen, sondern teilen ihre Erfahrungen aus realen Projekten und helfen dir, das Gelernte direkt in deiner täglichen Arbeit anzuwenden. Das ist kein Werbeversprechen, sondern unser Anspruch. Am besten siehst du das in unseren Bewertungen, z.B. auch bei Google.
Keine Vorkasse
Du zahlst erst nach dem Seminar. Keine Vorkasse, keine Vorauszahlung - so kannst du sicher sein, dass du nur für das bezahlst, was du auch wirklich erhalten hast. Die Rechnung erhältst du erst nach Kursbeginn.
Max. 8 Teilnehmende
Wir setzen auf kleine Gruppen, damit du die Aufmerksamkeit bekommst, die du verdienst. So haben wir mehr Zeit für deine individuellen Fragen und können gezielt auf deine Bedürfnisse eingehen.
Termine & Buchung
Leider haben wir aktuell keine Termine geplant. Es wird wahrscheinlich bei uns etwas schief gelaufen sein - bitte kontaktiere uns und wir finden den passenden Termin.
Nicht der passende Termin dabei?
Wir finden eine Lösung: anderer Termin, mehrere Teilnehmer, Inhouse-Schulung oder individuelle Beratung.
Lieber gleich das ganze Team schulen?
Diese Schulung gibt es auch exklusiv für dein Unternehmen, bei euch vor Ort, an unseren Standorten oder Live-Online. Inhalte und Termine nach Maß.
Inhouse-Schulung
Wir kommen zu euch: diese Schulung maßgeschneidert in euren Räumen, für Unternehmen und Behörden.
- Inhalte exakt auf euch zugeschnitten
- Termine nach euren Bedürfnissen
- Günstiger ab mehreren Teilnehmern
- Vertraute Umgebung, kein Reiseaufwand
Firmen-Seminar
Exklusiv für dein Team an einem unserer Standorte oder Live-Online, individuell angepasst.
- Geschlossene Gruppe aus eurem Haus
- Individuelle Terminplanung
- An unseren Standorten oder Live-Online
- Angepasste Inhalte
Fragen und Antworten zu Qwen 3.8 Training: Lokaler und API-Betrieb
Was ist Qwen 3.8?
Die Modellfamilie umfasst eine lokal betreibbare 27B-Variante mit Open Weights und eine online erreichbare Plus-Variante. Quantisierte Gewichte senken den VRAM-Bedarf der lokalen Inferenz. Die Auswahl richtet sich nach der eigenen Aufgabe, der verfügbaren Hardware und dem vorgesehenen Datenweg im Unternehmen.
Ist Qwen 3.8 Open Source oder Open Weights?
Open Weights bedeutet, dass die Modellgewichte heruntergeladen und lokal ausgeführt werden können. Die konkreten Nutzungsrechte ergeben sich aus der Lizenz der jeweiligen Variante. Das Training prüft deshalb die Modellkarte und den Lizenztext vor einer Einsatzentscheidung.
Welche Qwen-Quantisierung passt auf 16 oder 24 GByte VRAM?
Q5_K_M benötigt für das 27B-Modell ungefähr 22 GByte, zu denen Speicher für den Key-Value-Cache kommt. NVFP4 kann auf kompatibler Blackwell-Hardware bereits mit 16 GByte laufen; Q8_0 verlangt mehr VRAM. Die konkrete Auswahl wird mit dem gewünschten Kontextfenster getestet.
Wann eignet sich Qwen3.8-27B lokal und wann Plus online?
Die 27B-Variante passt zu Aufgaben mit lokaler Datenverarbeitung und verfügbarer GPU-Kapazität. Plus eignet sich für Anfragen, deren Ressourcenbedarf den lokalen Rahmen überschreitet. Ein Test mit derselben Aufgabe liefert die technische Entscheidungsbasis.
Welche Vorkenntnisse brauche ich für das Qwen-Training?
Grundkenntnisse zu LLMs, Prompting und API-Aufrufen reichen aus. Für fehlende Grundlagen eignet sich vorab das Large Language Model Grundtraining.
Brauche ich eine eigene GPU oder Softwarelizenz?
Nein. cmt stellt die benötigten GPU-Systeme, VMs und Software für die Übungen bereit. Ein eigenes Notebook und eigene Lizenzen sind für die Teilnahme nicht erforderlich.
Kann das Qwen-Training als Inhouse-Schulung angepasst werden?
Ja. Als Inhouse-Schulung lässt sich das Training nach Abstimmung an eure Hardware, Modellquellen und Anwendungsszenarien anpassen. Vertrauliche Beispiele sollten dafür anonymisiert oder durch Testdaten ersetzt werden.
Welche Konditionen gelten für mehrere Mitarbeiter?
Für mehrere Mitarbeiter erstellt cmt ein Firmenangebot passend zu Format und Schulungsort. Offene Trainings finden mit maximal acht Personen statt; Präsenz, Live-Online und Inhouse stehen als Formate zur Verfügung.
Weitere häufig gestellte Fragen und Antworten findest du in den FAQs.
Passende Schulungen nach dem Kurs
Ähnliche Kurse
GLM-5.3 Grundkurs: Open Weight LLM produktiv nutzen
KI-Infrastrukturplanung: On-Premise vs. Cloud
DeepSeek Training: Einsatz und Self-Hosting
Vektordatenbanken und KI Training: Architektur & Praxis
Google Cloud Machine Learning Engineer Training
Unser Qualitätsversprechen: Wissen, das in der Praxis funktioniert
Aus der Praxis für die Praxis
Schluss mit theoretischem Ballast. Wir trainieren dich für reale IT-Herausforderungen, nicht für Multiple-Choice-Tests. Unsere Trainer vermitteln dir genau das Wissen, das am nächsten Montagmorgen im Job wirklich funktioniert.
Individuell statt "Schema F"
Deine Fragen passen nicht ins Standard-Skript? Bei uns schon. Wir verzichten auf starre Lehrpläne und geben deinen konkreten Projekt-Fragen Raum. Unsere Trainer passen die Inhalte flexibel an das an, was dich und dein Team aktuell weiterbringt.
Maximale Freiheit: Remote oder vor Ort
Lerne so, wie es in deinen Alltag passt - ohne Reise-Stress und Zeitverlust. Egal ob remote, hybrid oder präsent vor Ort: Wir garantieren dir ein nahtloses und effektives Lernerlebnis, egal von wo du dich zuschaltest.
Mit Zufriedenheitsgarantie
Wir sind von unserer Qualität überzeugt - und wollen, dass du es auch bist. Sollte ein Training einmal nicht deinen Erwartungen entsprechen, bieten wir dir an, den Kurs kostenlos zu wiederholen oder ein anderes Training zu besuchen. Ohne Risiko, ohne Diskussion.
Über 20.000 Unternehmen und Behörden vertrauen auf uns