Token-Kosten kollabieren. Margen mit ihnen.

Was ist LLMflation?

LLMflation bezeichnet den von Andreessen Horowitz geprägten Begriff für den jährlichen 10-fachen Verfall der AI-Inference-Kosten bei gleichbleibender Modell-Qualität. Empirisch zeigt Epoch AI sogar 50x als Median und bis zu 900x für die schnellsten Benchmarks. Das hat die DACH-Wirtschaft 2026 fundamental neu sortiert.

TL;DR

• Was 2022 mit GPT-3 noch $400 pro Million Tokens kostete, kostet heute unter $0,40 für vergleichbare Qualität.
• Vier Faktoren wirken zusammen: Hardware (Blackwell), Architektur (MoE), Quantisierung, Preiskampf der Anbieter.
• Für DACH-Mittelstand bedeutet das: AI-Use-Cases die 2024 nicht rechneten, rechnen 2026 zwingend. Letzte Aktualisierung: 2026-05-09 | Lesezeit: 9 Min

Markus Reuter, 38, sitzt in einem Coworking in Köln. Vor zwölf Monaten zahlte sein SaaS-Tool 800 Euro im Monat an die OpenAI API. Heute zahlt er vier.

Vier Euro. Bei höherem Volumen.

Reuter ist kein Sonderfall. Er ist die Regel. Was er erlebt, beschreibt der Stanford AI Index Report 2025 als 280-fachen Preisverfall in 18 Monaten. Andreessen Horowitz misst sogar einen 1000-fachen Verfall in drei Jahren. Sie haben einen Namen dafür gefunden. LLMflation. Kosten kollabieren. Token werden zu Zucker.

Was du nach diesem Artikel verstehst: warum die Inference-Ökonomie jeden Business-Case in der DACH-Wirtschaft neu sortiert, welche vier Faktoren den Verfall treiben, und warum die Anbieter die das Geld verdienen sollten gerade die größten Verlierer sind.

01: Die Zahl die alles verschiebt

$400 pro Million Tokens. Das war GPT-3 im November 2022.

Heute zahlst du für Llama 3.2 3B bei Together.ai sechs Cent. Sechs. Cent. Für Output auf MMLU-Niveau 42, das vor drei Jahren $60 pro Million Tokens kostete.

Epoch AI hat die Verfallsraten quantifiziert. Median: 50x pro Jahr. Die schnellsten Trends: 900x pro Jahr. Wenn du nur Daten ab Januar 2024 nimmst, steigt die Median-Rate auf 200x. Die Beschleunigung beschleunigt sich.

Die Zahl pro Anwendungsfall ist konkreter als jede Statistik. AI-Aufgaben die 2022 monatlich $10.000 verschlangen, kosten 2026 etwa $10. Das ist nicht Effizienz. Das ist eine Sportart die mit der vorherigen nichts zu tun hat.

02: Vier Kräfte. Eine Richtung.

Der Verfall hat keinen einzelnen Treiber. Er hat vier. Sie verstärken sich gegenseitig.

Hardware. NVIDIA Blackwell B200 liefert bis zu 15-fache Inference-Geschwindigkeit gegenüber Hopper H100. Die Blackwell Ultra GB300 NVL72 erreicht 35x niedrigere Kosten pro Token bei agentischen Low-Latency-Workloads. Self-hosted ist B200 bis zu 10x günstiger als Cloud-H100.

Architektur. Mixture-of-Experts statt Dense Models. Nur die nötigen Parameter feuern pro Inferenz. Anthropics Sonnet-Familie und Googles Gemini-Reihe nutzen das Pattern. Das Ergebnis: gleiche Qualität, ein Bruchteil der Compute.

Quantisierung. Von 16-bit auf 4-bit Inference. Andreessen Horowitz listet das als Haupt-Treiber neben GPU-Cost-Performance und Software-Optimierung. Kleinere Modelle, gleiche Antworten.

Preiskampf. OpenAI, Anthropic, Google, Meta, DeepSeek schneiden sich gegenseitig. GPT-4 startete im März 2023 mit $30/$60 pro Million Tokens. GPT-4.1 liefert dieselbe Reasoning-Qualität für $2/$8. Das sind 90 Prozent Preisverfall in drei Jahren. Ohne dass eine einzige Pressemitteilung gross davon spricht.

Steelman: Aber die Modelle werden besser, oder?

Das ist das beste Gegenargument. Es lautet so. "Die Token-Preise fallen, aber die Modelle werden komplexer. Claude Opus 4.7 hat einen neuen Tokenizer der bis zu 35 Prozent mehr Tokens für denselben Input erzeugt. Echte Rechnung steigt, auch wenn Rate-Card stehenbleibt."

Das stimmt für die Frontier-Schicht. Es stimmt nicht für die mittlere Schicht wo der Mittelstand baut. Wer 2026 RAG, Klassifikation, Summarization, Document-Analysis macht, nutzt nicht Opus 4.7. Er nutzt Haiku 4.5 für $1/$5 oder GPT-4o-mini für $0,15/$0,60. Die Rechnung an der Mid-Tier-Schicht fällt nicht. Sie kollabiert.

03: Drei Welten kollidieren

Für den Solo-Indie-Hacker

Reuter aus Köln ist die Klasse. Sein SaaS-Tool extrahierte mit GPT-4-Turbo strukturierte Daten aus PDF-Verträgen. Eingangsrechnung Anfang 2024: 800 Euro im Monat. Heute lässt er den gleichen Workflow auf Haiku 4.5 mit Prompt-Caching laufen. Prompt-Caching schneidet Cached-Input-Kosten um 90 Prozent. Plus Batch-API: nochmal 50 Prozent weniger.

Die Rechnung: 4 Euro im Monat. Das ist kein Sparen. Das ist eine Re-Definition von Cost-of-Goods.

Für die Mid-Market-Agentur

Die Bitkom-Studie 2026 sagt: 41 Prozent der deutschen Unternehmen nutzen aktiv AI, weitere 48 Prozent planen es. Aber 33 Prozent berichten dass AI teurer war als geplant. Token-Kosten sind selten das Problem. Integration, Data-Maintenance, Governance fressen das Budget.

Das ist die Chance für Agenturen die das verstehen. Nicht der Token-Preis ist die Konkurrenz. Es ist das Operations-Layer drumherum. Wer das baut, hat 2026 noch eine Marge. Wer nur "AI-Integration" verkauft, wird ausgepreist.

Hot-Take: OpenAI verliert mit jedem Token den sie verkaufen

Das ist der Satz den die VC-Decks nicht laut sagen. AI Automation Global rechnet vor: OpenAI verliert 1,35 Dollar pro verdienten Dollar an Inference-Operations. Compute-Kosten plus Personal plus R&D übersteigen die Token-Einnahmen.

Das ist keine Übergangsphase. Das ist die Logik der LLMflation. Wer pro Token kassiert, kassiert weniger pro Jahr. Wer pro Workflow kassiert, kassiert mehr. Anthropic hat das früh verstanden. Siehe Claude Code, siehe Projects. OpenAI rudert nach mit Operator, Pulse, Tasks. Aber der Druck auf reine Pay-per-Token-Modelle wird brutal.

04: Was Reuter mir am Telefon erzählt hat

Reuter und ich haben Anfang Mai telefoniert. Er hatte eine Stunde Zeit zwischen Kunden-Calls.

Sein Satz, der hängenblieb: "Vor einem Jahr habe ich Pricing für mein Tool gemacht und die API-Kosten als variable Kostenkomponente eingepreist. Heute ist die API-Kostenkomponente unter dem Stripe-Fee. Mein größter Cost-Driver 2024 ist 2026 Rauschen."

Das ist die Geschichte. Es ist eine Geschichte über Compute, ja. Aber die eigentliche Geschichte ist eine über Geschäftsmodelle die in zwölf Monaten obsolet wurden. Wer 2024 Pricing pro AI-Output kalkuliert hat, kalkuliert 2026 anders. Wer 2024 mit "AI-Kosten zu hoch" einen Use-Case verworfen hat, sollte ihn 2026 wieder aus der Schublade holen.

05: Was du jetzt tun kannst

1. Bestandsaufnahme. Liste alle deine AI-Workloads. Welches Modell, welche Tokens pro Monat, welcher Use-Case.
2. Mid-Tier prüfen. Jeden Workload auf Haiku 4.5 oder GPT-4o-mini umstellen wo Qualität reicht. Test mit 100 Beispielen, A/B-Vergleich.
3. Caching aktivieren. Prompt-Caching bei Anthropic spart bis zu 90 Prozent für wiederkehrende System-Prompts. Pflicht-Setup.
4. Batch-API nutzen. Wo Latenz nicht zählt: 50 Prozent Rabatt. Gilt bei OpenAI und Anthropic.
5. Use-Case-Liste neu öffnen. Die "rechnete-sich-nicht"-Schublade von 2024 aufmachen. Mind. drei Cases finden die 2026 plötzlich rechnen.

Caveats

Frontier-Modelle (Opus 4.7, GPT-5) folgen der LLMflation-Kurve nicht eins zu eins. Claude Opus 4.7 hält den Rate-Card stabil bei $5/$25, aber der neue Tokenizer kann effektive Kosten um 35 Prozent steigern. Bei Coding-Agents und Long-Horizon-Tasks bleibt Compute teuer. Die Inference-Ökonomie kippt für Mid-Tier-Use-Cases, nicht für die Spitze.

Zweitens: Quantisierung kostet Qualität in spezifischen Domänen. Mathematik, Code-Reasoning, Multi-Step-Logic leiden mehr als Klassifikation oder Summarization. Pflicht-Test mit echten Beispielen vor dem Switch.

Drittens: GDPR und Data-Residency. Der Wechsel von OpenAI auf günstigere Modelle ist oft eine Wechsel der Cloud-Region und damit ein Compliance-Thema. EU-Hosting prüfen, Anthropic EU oder Azure OpenAI in Frankfurt nutzen.

Häufig gestellte Fragen

Wie viel kostet AI-Inference 2026 wirklich?

Für Mid-Tier-Modelle (Haiku 4.5, GPT-4o-mini, Gemini Flash) liegen die Kosten zwischen $0,15 und $1 pro Million Input-Tokens. Output ist 4-5x teurer. Frontier-Modelle (Opus 4.7, GPT-5) kosten $5-15 Input und $25-75 Output pro Million Tokens. Für eine 2.000-Token-Anfrage zahlst du also bei Mid-Tier weniger als 0,1 Cent.

Was ist LLMflation?

LLMflation ist der von Andreessen Horowitz geprägte Begriff für den jährlichen 10x-Verfall der Inference-Kosten bei gleichbleibender Modell-Qualität. Empirisch zeigt Epoch AI sogar 50x als Median und bis zu 900x für die schnellsten Benchmarks. Die Kurve ist steiler als Moores-Law oder die Bandbreiten-Senkung der Dotcom-Zeit.

Warum sinken die Token-Preise so schnell?

Vier sich verstärkende Faktoren. Hardware (NVIDIA Blackwell mit bis zu 15-facher Inference-Performance), Architektur (Mixture-of-Experts), Software (Quantisierung von 16-bit auf 4-bit) und Preiskampf zwischen OpenAI, Anthropic, Google, Meta, DeepSeek. Keiner allein erklärt 1000x Verfall. Zusammen schon.

Lohnt sich Self-Hosting von Open-Source-Modellen?

Bei B200-Hardware bis zu 10x günstiger als Cloud-Inference, aber nur ab signifikantem Volumen (mehrere Milliarden Tokens pro Monat). Für die meisten DACH-Mittelständler bleibt API-Hosting günstiger weil GPU-Capex und Operations-Overhead die Marge fressen. Break-Even bei etwa 5 Milliarden Tokens monatlich.

Was bedeutet das für AI-Anbieter wie OpenAI?

Pay-per-Token-Geschäftsmodelle stehen unter Druck. Analysen zeigen Verluste pro Token bei OpenAI. Anbieter verschieben sich zu Workflow-Pricing (Claude Code, Operator, Pulse) oder Subscription-Modellen (Claude Pro, ChatGPT Plus). Wer rein auf Token-Marge setzt, verliert.

Sollte mein Mittelstandsbetrieb jetzt umstellen?

Ja. Die Bitkom-Studie 2026 zeigt 41 Prozent aktive AI-Nutzung bei deutschen Unternehmen, doppelt so viel wie 2024. Wer wartet, hat einen Kosten-Nachteil. Use-Cases die 2024 nicht rechneten (Customer-Service, Document-Analysis, Personalisierung), rechnen 2026 zwingend.

Was ist der schnellste Hebel um Token-Kosten zu senken?

Prompt-Caching plus Batch-API. Caching senkt wiederkehrende System-Prompt-Kosten um 90 Prozent, Batch um weitere 50 Prozent. Beides zusammen bei Mid-Tier-Modellen ergibt fünf bis zehn Cent statt fünf Euro pro 1.000 typische Anfragen.

People Also Ask

Was bedeutet LLMflation für deutsche Unternehmen? LLMflation senkt die AI-Inference-Kosten um Faktor 1000 in drei Jahren. Für deutsche Unternehmen heißt das: Use-Cases die 2024 nicht rechneten, rechnen 2026 zwingend. Customer-Service, Document-Analysis und Personalisierung werden ökonomisch. Wer wartet, verliert Kostenvorteil gegen Wettbewerber die schon umgestellt haben.

Wie wirkt sich der Inference-Verfall auf den Mittelstand aus? Der Mittelstand kann AI-Workflows die früher 800 Euro Monatskosten verursachten heute für unter 5 Euro betreiben. Laut Bitkom 2026 nutzen 41 Prozent der deutschen Unternehmen aktiv AI, doppelt so viel wie 2024. Der Hebel liegt nicht im Token-Preis, sondern im Operations-Layer (Caching, Batch, Mid-Tier-Routing).

Welche Risiken bringt der Wechsel auf günstigere Modelle? Drei Hauptrisiken. Qualitätsverlust durch Quantisierung bei Mathematik und Code-Reasoning, GDPR-Compliance bei Cloud-Region-Wechsel und Vendor-Lock-in bei aggressiven Preis-Cuts. Pflicht-Test mit 100 echten Beispielen vor jedem Modell-Switch. EU-Hosting via Anthropic EU oder Azure Frankfurt prüfen.

Wann sollten Unternehmen ihre AI-Stack-Pricing-Logik umstellen? Sofort. Wer 2026 noch 2024er-Pricing kalkuliert, verbrennt mindestens 70 Prozent Marge unnötig. Prompt-Caching aktivieren spart 90 Prozent auf wiederkehrende System-Prompts, Batch-API weitere 50 Prozent. Beide Hebel sind in unter zwei Tagen integriert und amortisieren sich im ersten Monat.

Welche Alternativen zu OpenAI gibt es bei Token-Kosten? Anthropic Haiku 4.5 (1 Dollar Input, 5 Output), GPT-4o-mini (0,15 Input, 0,60 Output), Gemini Flash und Self-Hosted Llama 3.2 3B via Together.ai. Für DACH-Unternehmen mit Compliance-Pflicht: Anthropic EU-Endpoints oder Azure OpenAI Frankfurt. Self-Hosting lohnt erst ab 5 Milliarden Tokens pro Monat.

Was kostet AI-Inference in der Praxis 2026? Eine 2.000-Token-Anfrage bei Haiku 4.5 kostet unter 0,1 Cent. Ein 50.000-Token-Dokument mit 500-Token-Zusammenfassung bei Sonnet 4.6 Batch liegt bei 1,50 Dollar pro 1.000 Calls. Frontier-Modelle (Opus 4.7, GPT-5) bleiben zehnmal teurer und sind nur für komplexes Reasoning oder Agent-Tasks ökonomisch.

Wer ist von der Inference-Ökonomie 2026 am stärksten betroffen? Solo-Indie-Hacker und Mid-Market-Agenturen die ihre Marge auf API-Pass-Through aufbauten. Wer reines Pay-per-Token-Pricing verkauft, verliert. Wer Workflow-Pricing oder Subscription-Modelle (Claude Code, ChatGPT Tasks) anbietet, gewinnt. Auch OpenAI selbst verliert laut Analysen 1,35 Dollar pro verdienten Dollar an Inference-Operations.

Wie startet man die Umstellung auf den Inference-Stack 2026? Fünf-Schritt-Plan. Bestandsaufnahme aller AI-Workloads erstellen, Mid-Tier-Modelle (Haiku 4.5, GPT-4o-mini) mit 100 echten Beispielen A/B-testen, Prompt-Caching für stabile System-Prompts aktivieren, Batch-API für latenz-unkritische Tasks einsetzen und die "rechnete-sich-nicht"-Use-Case-Liste von 2024 neu öffnen.

Zitieren als

APA: Velichko, M. (2026, Mai 27). Token-Kosten kollabieren. Margen mit ihnen.. Velmoy AI/Agency. https://velmoy.com/pursuit/human/1000x-kostensenkung-ai-inference

BibTeX:

@misc{velmoy20261000xkost_h,
  author = {Velichko, Max},
  title  = {Token-Kosten kollabieren. Margen mit ihnen.},
  year   = {2026},
  month  = {Mai},
  url    = {https://velmoy.com/pursuit/human/1000x-kostensenkung-ai-inference}
}

Frag eine KI

"Lies https://velmoy.com/pursuit/human/1000x-kostensenkung-ai-inference und fasse die 5 wichtigsten Erkenntnisse für einen DACH-Entscheider zusammen."

"Welche konkreten Maßnahmen aus Token-Kosten kollabieren sollte ich in den nächsten 30 Tagen umsetzen?"

Als Markdown herunterladen

Für LLM-Ingestion: Plain-MD-Version

Weiterführende Quellen

• Stanford AI Index Report 2025/2026: primäre Quelle für 280-fachen Preisverfall in 18 Monaten (Stand: April 2025/2026)
• Andreessen Horowitz LLMflation: Original-Analyse von Guido Appenzeller, 1000x in drei Jahren (Stand: November 2024)
• Epoch AI Inference Price Trends: Benchmark-spezifische Verfallsraten 9x bis 900x pro Jahr (Stand: 2025)
• Anthropic Pricing Docs: aktuelle Token-Preise Haiku, Sonnet, Opus (verifiziert 2026-04-29)
• OpenAI API Pricing: aktuelle GPT-4o, GPT-4.1, GPT-5 Preise
• NVIDIA Blackwell Benchmarks von Adrian Cockcroft: 30x Inference-Gewinn vs Hopper
• Bitkom KI-Studie 2026: DACH-Adoption-Zahlen, 41 Prozent aktive Nutzung

Mehr lesen

• AI-Version: Inference-Cost-Decline Reference: die kompakte technische Variante mit Pricing-Tabellen, Use-Case-Mapping und Citation-Block

Wer 2026 noch über AI-Kosten redet, redet über die letzte Schlacht. Die nächste heißt Trust und Workflow.

Über den Autor: Max Velichko, Founder Velmoy AI/Agency Berlin. Wir bauen High-End Websites und AI-Workflows für DACH-Mittelstand und Solo-Selbstständige. Foto: ./assets/author-max.png · LinkedIn · GitHub · info@velmoy.org

Wenn dein AI-Stack noch auf 2024er-Pricing-Logik läuft, sprechen wir kurz. Eine Stunde Audit, vier konkrete Hebel.