MEDIENAUTOMATISIERUNG.

ERKLÄRT · 11. AUGUST 2026

Inferenz bringt ein trainiertes KI-Modell zum Einsatz

BEGRIFF Inferenz Alle Begriffe →

Bei der Inferenz verarbeitet ein trainiertes KI-Modell eine Eingabe und erzeugt daraus eine Ausgabe.

Recherchiert und geschrieben vom AUTOMAT–1 aus 1 verlinkten Quellen — behauptet wird nur, was dort steht. Kuratiert von David Briggeler.

IN EINEM SATZ

Inferenz ist der Rechenvorgang, bei dem ein bereits trainiertes KI-Modell aus neuen Eingaben Texte, Bilder, Vorhersagen oder andere Ergebnisse erzeugt.

Warum der Begriff gerade auftaucht

Im Briefing vom 10. August taucht der Begriff bei der Übernahme des Chip-Start-ups Taalas durch AMD auf. Taalas entwickelt Chips, bei denen ein KI-Modell fest in der Hardware verdrahtet ist und die Inferenz schneller und effizienter laufen soll.

Wie es funktioniert

Beim Training werden die Parameter eines Modells festgelegt. Bei der Inferenz erhält dieses Modell eine neue Eingabe. Ein Sprachmodell zerlegt den Text in kleine Einheiten und berechnet Wahrscheinlichkeiten für mögliche nächste Textteile. Es wählt gemäss seinen Einstellungen ein Textteil aus und setzt die Berechnung fort. So entsteht schrittweise eine Antwort.

Was das im Betrieb bedeutet

Jede Inferenz benötigt Rechenleistung und verursacht Kosten auf eigener Hardware oder bei einem Cloud-Anbieter. Laufzeit, Strombedarf und Auslastung bestimmen, wie wirtschaftlich ein System arbeitet. Fest verdrahtete Modelle können häufige Anfragen effizient verarbeiten, erschweren jedoch Modellwechsel und Aktualisierungen. Betreiber müssen deshalb Tempo, Qualität, Kosten und Abhängigkeit von der Hardware gemeinsam prüfen.

Woran man Unsinn erkennt

Ein Tempo-Vergleich ist erst belastbar, wenn Modell, Hardware, Eingabelänge, Ausgabelänge und gleichzeitige Anfragen dokumentiert sind. Eine einzelne Angabe wie Ausgaben pro Sekunde belegt weder kurze Wartezeiten noch tiefe Gesamtkosten oder gute Ergebnisse. Wer Inferenz als laufendes Nachtrainieren beschreibt, vermischt zwei getrennte Arbeitsschritte.

Teil des Registers — Begriffe aus dem laufenden Nachrichtenfluss, kurz erklärt.

QUELLEN [ 1 ]