LFM 2.5: Architektur, Benchmarks und Warum es für Edge AI Wichtig Ist

Alles über das neue LFM 2.5: Architektur, Benchmarks und warum es für Edge-AI wichtig ist

Leistungsfähige KI ohne Cloud-Rechnung zu betreiben ist längst keine Fantasie mehr. LFM 2.5 ist Liquid AIs neueste Familie von On-Device-Foundation-Modellen, und ihr Flaggschiff-Agent, LFM2.5-2.6B, passt in unter 2,5 GB Speicher, läuft mit etwa 30 Tokens pro Sekunde auf Hardware in Smartphone-Klasse und schlägt oder erreicht bei ausgewählten Benchmarks Modelle, die mehrfach so groß sind. Das macht private, offline nutzbare KI wirklich praxistauglich. Wichtig dabei: Die Spitzenwerte stammen aus Liquid AIs eigenen Herstellerbenchmarks – man sollte sie also als Behauptungen betrachten, bis unabhängige Tests sie bestätigen.

Dieser Leitfaden erklärt, was LFM 2.5 ist, wie die Architektur funktioniert, wie sich die Varianten mit Gemma, Qwen und DeepSeek vergleichen lassen und wie man es einsetzt. Wer daneben auch auf Cloud-KI-Abos wie Claude, ChatGPT oder Gemini für anspruchsvollere Aufgaben setzt, findet dafür einen cleveren Bezahlweg, den wir am Ende noch vorstellen.

Baust du Agenten lokal, zahlst aber nebenbei noch für Cloud-KI? Bleap berechnet 0% FX-Gebühren auf deine USD-Abos und gibt dir pauschal 20% Cashback bei Verlängerungen von Claude, ChatGPT und Gemini – ganz ohne eigenes Abo. (Das 20%-Cashback gilt nur für diese drei Tools.) Jetzt die Bleap-Karte holen →

1. Was ist LFM 2.5? Überblick und Architektur

LFM 2.5 ist die neueste Generation der Liquid Foundation Models, entwickelt von Liquid AI, einem Unternehmen, das von ehemaligen MIT-Informatikern gegründet wurde. Die Modellfamilie verfolgt ein klares Ziel: leistungsstarke KI, die direkt auf deinem Gerät läuft – nicht in irgendeinem Rechenzentrum.

Die zentrale Innovation ist ein hybrides Grundgerüst. LFM2.5-2.6B ist ein Modell mit 2,69 Milliarden Parametern und 30 Layern (22 Double-Gated-Short-Convolution-Blöcke und 8 GQA-Layer), einem 128K-Vokabular und einem Kontextfenster von 131.072 Tokens. Da die meisten Attention-Layer durch kurze Convolutions ersetzt werden, sinkt der Speicherverbrauch, und die Inferenz auf normalen CPUs wird deutlich schneller.

Wie das Mixture-of-Experts-Design funktioniert

Das Effizienz-Flaggschiff setzt zusätzlich auf ein Mixture-of-Experts-Design (MoE), das auf diesem Grundgerüst aufbaut. LFM2.5-8B-A1B nutzt ein sparse MoE-Design, bei dem pro Durchlauf nur 1,5 der insgesamt 8,3 Milliarden Parameter aktiviert werden – das hält die Kosten pro generiertem Token niedrig. Jeder MoE-Layer verfügt über 32 Experten und wählt pro Token die Top-4 Experten aus, gesteuert durch einen normalisierten Sigmoid-Router mit adaptiven Routing-Biases für die Lastverteilung. Das Ergebnis: eine Qualität auf 4B-Niveau bei Kosten, die nahe an einem 1,5B-Modell liegen – eine Leistung, die klassische reine Transformer-Modelle auf begrenzter Hardware einfach nicht erreichen.

2. LFM 2.5 Modellvarianten und Größen

LFM 2.5 ist nicht nur ein einzelnes Modell, sondern eine ganze Bandbreite an Größen und Spezialisierungen.

LFM2.5-230M

Der kleinste Checkpoint. Liquid AI zeigt, dass LFM2.5-230M im BFCLv3-Benchmark für Tool-Nutzung 43,26 Punkte erreicht und damit IBMs Granite 4.0-350M (39,58) klar hinter sich lässt sowie größere Modelle mit 1 Milliarde Parametern wie Googles Gemma 3 1B IT (16,61) übertrifft. Es ist speziell für strukturierte Tool-Aufrufe und Datenextraktion konzipiert.

LFM2.5-1.2B Familie

Das ist ein umfassendes Release mit Base-, Instruct-, Japanisch-, Vision-Language- und Audio-Language-Modellen. Liquid AI hat das Pretraining von 10T auf 28T Tokens ausgeweitet und das Post-Training mit Reinforcement Learning deutlich hochskaliert.

LFM2.5-2.6B

Der universelle, handy-taugliche Agent. Er plant, ruft Tools auf und arbeitet mehrstufige Aufgaben auf Smartphones, Laptops, PCs und Robotern ab.

LFM2.5-8B-A1B (MoE)

Das Reasoning-Flaggschiff. Anders als sein Vorgänger ist LFM2.5-8B-A1B ein reines Reasoning-Modell, das vor der finalen Antwort eine explizite Gedankenkette (Chain of Thought) erzeugt.

3. Fähigkeiten für On-Device und Edge AI

Bei LFM 2.5 geht es genau darum: Es läuft ganz ohne Cloud oder GPU.

LFM 2.5 auf Raspberry Pi und Mobilgeräten

Die Zahlen sprechen für sich. LFM2.5-230M schafft 213 Tokens pro Sekunde auf einem Galaxy S25 Ultra und 42 Tokens pro Sekunde auf einem Pi 5. Beim größeren Agenten-Modell hat Liquid AI 220 Tokens pro Sekunde beim Decoding auf einem Apple M5 Max gemessen, 113 Tokens pro Sekunde auf einem AMD Ryzen AI Max+ 395 und rund 30 Tokens pro Sekunde auf einem Smartphone – und das alles bei unter 2,5 GB Speicherbedarf.

Vorteile bei Datenschutz und Offline-KI

Da die Inferenz komplett lokal bleibt, verlassen die Daten nie das Gerät, und die Kosten pro Durchlauf gehen praktisch gegen null. Das ist besonders relevant für Anwendungen im Gesundheitswesen, im Rechts- und Finanzbereich, für abgeschottete Netzwerke und überall dort, wo eine Cloud-API-Rechnung bei größerem Umfang schnell explodieren würde.

4. LFM 2.5 Benchmarks und Performance-Ergebnisse

Liquid AI vergleicht LFM 2.5 mit Gemma-4- und Qwen-3.5-Varianten mithilfe seiner eigenen Evaluierungssuite.

Text- und Reasoning-Benchmarks

Beim Reasoning-Modell sind die Fortschritte gegenüber dem Vorgänger enorm. LFM2.5-8B-A1B verbessert sich auf breiter Front: Die AA-Omniscience Non-Hallucination Rate sprang von 7,46 auf 63,47, und IFEval stieg von 79,44 auf 91,84.

Mathe- und Agentic-Task-Benchmarks

MATH500 kletterte von 74,80 auf 88,76, und Tau² Telecom stieg von 13,60 auf 88,07. Bei dem kleineren Agenten führt LFM2.5-2.6B bei jedem Instruction-Following-Benchmark und fast jedem Tool-Use-Benchmark – nur bei BFCLv4 liegt Qwen3.5-9B knapp vorne – und schlägt beide Gemma-Modelle durchgehend bei agentischen Aufgaben.

Vision- und Audio-Benchmarks

Auch die multimodalen Checkpoints können sich behaupten. LFM2.5-VL-1.6B zeigt eine stärkere Instruction-Following-Performance sowohl bei Vision- als auch bei Text-Instruction-Benchmarks und ist damit eine gute Wahl für multimodale Edge-Anwendungen.

Inferenzgeschwindigkeit-Benchmarks

Die Geschwindigkeit sticht besonders heraus. LFM2.5-2.6B ist das schnellste Modell seiner Größenklasse und erreicht bei hoher Nebenläufigkeit fast 15.000 Output-Tokens pro Sekunde – das entspricht rund 1,3 Milliarden Tokens pro Tag auf einer einzigen H100.

Du prototypst Agents lokal, mietest dir aber für die schwierigen Teile Cloud-Modelle? Bezahl diese USD-Abos mit Bleap ohne Fremdwährungsgebühren, plus 20% Cashback pauschal auf Claude, ChatGPT und Gemini. Self-Custodial Mastercard, keine monatliche Gebühr. Jetzt die Bleap-Karte holen →

5. LFM 2.5 im Vergleich: Direkter Vergleich mit der Konkurrenz

LFM 2.5 vs. DeepSeek-V4-Flash

DeepSeek-V4-Flash ist ein starkes, cloud-orientiertes Agentenmodell. Der Vorteil von LFM 2.5 liegt in der Einsetzbarkeit: Es läuft auf einem Smartphone oder Raspberry Pi ganz ohne GPU, während ein Modell der Flash-Klasse Serverhardware voraussetzt. Wenn deine Workload am Edge läuft, ist LFM 2.5 klar die bessere Wahl.

LFM 2.5 vs. Google Gemma

Liquid AI vergleicht sich direkt mit den Gemma-4-Varianten. Im Test gegen unter anderem gemma-4-E2B-it (5,1 Mrd. Parameter) und gemma-4-E4B-it (8 Mrd. Parameter) liegt LFM2.5-2.6B bei jedem Benchmark zur Befolgung von Anweisungen sowie bei jedem Tool-Use-Benchmark außer BFCLv4 vorne. Beim Programmieren behält Gemma die Nase vorn.

LFM 2.5 vs. Alibaba Qwen

Qwen 3.5 ist der stärkste Konkurrent in Sachen Leistungsfähigkeit. Bei agentenbasierten Aufgaben liefert sich LFM2.5-2.6B ein knappes Kopf-an-Kopf-Rennen mit den Qwen-Modellen, führt bei AA-Omniscience-Public und liegt in Mathe nur hinter Qwen3.5-9B zurück. Beim Programmieren sind es allein die größeren Modelle, die die Nase vorn behalten. Bei der Effizienz pro aktivem Parameter zieht LFM 2.5 dann bei den Kosten pro Token vorbei.

Fazit: LFM 2.5 liefert konkurrenzfähige Genauigkeit bei drastisch geringerem Rechenaufwand – und besetzt damit eine Nische, die größere Modelle gar nicht erreichen können.

6. Agentic-AI-Designphilosophie

LFM 2.5 wurde in erster Linie für Agenten entwickelt, Chat kommt erst danach.

Tool-Nutzung und agentische Workflows

Die Modelle unterstützen native Funktionsaufrufe und mehrstufige Planung. Hier zeigt sich der Vorteil des MoE-Designs: Weniger aktive Parameter bedeuten schnellere Durchläufe in agentischen Schleifen. Da keine Kosten pro Token anfallen, lassen sich Agenten dauerhaft und parallel im Hintergrund laufen lassen – ein Muster, das abgerechnete Cloud-APIs strukturell verhindern. So können Agenten auf lokaler Hardware massiv parallelisiert werden, ohne zusätzliche Kosten.

Praktische Einsatzmöglichkeiten für Agenten

Zu den praktischen Anwendungen zählen On-Device-Assistenten, offline durchführbare Dokumentensortierung mit bis zu 128K Eingaben, die Extraktion von Formularen und Rechnungen, das Parsen von Robotik-Befehlen sowie Hintergrundagenten, die dauerhaft laufen, ohne dass Kosten pro Token entstehen. Man sollte hier aber ehrlich bleiben: Liquid AI empfiehlt das Modell ausdrücklich nicht für agentisches Coding oder wissensintensive Aufgaben.

7. Multimodale Fähigkeiten: Bild und Ton

LFM 2.5 ist eine multimodale Modellfamilie und kein reines Textmodell.

LFM 2.5 Vision-Language-Modell

Der Vision-Checkpoint verarbeitet Bilder, Diagramme und Dokumente zusammen mit Text. Die 1,6B-VL-Variante ist speziell darauf getrimmt, Anweisungen auf Edge-Geräten zuverlässig zu befolgen – ideal für mobile Dokumenten- und Bildworkflows.

LFM 2.5 Audio-Language-Modell

Das Audio-Language-Modell wurde als Teil der 1,2B-Version veröffentlicht und deckt Sprachverständnis sowie audiobasierte Fragen und Antworten ab. Mögliche Anwendungen sind Sprachassistenten, Meeting-Zusammenfassungen und Barrierefreiheits-Tools – alle offline nutzbar, um die Privatsphäre zu schützen.

8. Was sich von LFM 2.0 zu LFM 2.5 geändert hat

Der Sprung ist beträchtlich. Liquid AI hat das Vokabular auf 128K verdoppelt, indem der Tokenizer erweitert statt komplett neu trainiert wurde – das sorgt für bessere Unterstützung nicht-lateinischer Schriftsysteme. Auch beim Training wurde deutlich mehr Gas gegeben: Das 8B-MoE-Modell wurde auf 38T Tokens trainiert, ergänzt durch umfangreiches RL. Außerdem bringt LFM 2.5 ein 128K-Kontextfenster, Reasoning sowie multimodale Vision- und Audio-Modelle mit, die es in Version 2.0 noch nicht gab.

9. Lizenzierung und kommerzielle Nutzbarkeit

Was die Lizenz erlaubt

Die Modelle werden unter Liquids eigener Lizenz veröffentlicht. Sowohl das Basismodell als auch die agentische, nachtrainierte Variante sind auf Hugging Face unter der LFM Open License v1.0 verfügbar, die kommerzielle Nutzung erlaubt. Allerdings handelt es sich dabei um eine eigene Lizenz von Liquid und nicht um eine der üblichen freizügigen Standardlizenzen – wer kommerzielle Pläne verfolgt, sollte die Bedingungen also vorher genau lesen.

Wo man LFM 2.5 findet

Gewichte und Model Cards lassen sich direkt von Hugging Face herunterladen, alternativ könnt ihr die Modelle über OpenRouter oder Liquid AIs eigene API für schnelles Prototyping ansprechen.

10. So legt ihr los und setzt LFM 2.5 ein

Schnellstart über die API

Erstellt einen Account bei OpenRouter oder Liquid AI, holt euch einen API-Key, wählt eure gewünschte Variante über den Endpoint aus und schickt eine Testanfrage. Das ist der schnellste Weg zu einem funktionierenden Prototyp.

Lokales Setup über Hugging Face

Installiert euren Inference-Stack, ladet die Gewichte der gewünschten Variante von der Hugging-Face-Model-Card herunter und führt die Inferenz lokal aus. Von Anfang an unterstützt werden llama.cpp, MLX, vLLM und SGLang, mitsamt offenen Basis- und nachtrainierten Gewichten.

Deployment auf Edge-Geräten

Für Raspberry Pi und Mobilgeräte empfehlen sich quantisierte Formate wie GGUF mit INT4/INT8. Für das MoE-Flaggschiff auf der GPU solltet ihr die GPU für die vollen ~8B Parameter dimensionieren (≈17 GB BF16 plus KV-Cache), auch wenn pro Token nur ~1B aktiv ist – als Richtwert eine GPU mit mindestens 24 GB VRAM.

11. Praxisrelevanz: Geschäftliche und private Anwendungen

Für Einzelentwickler und Hobbyisten

Baue Offline-KI-Apps auf handelsüblicher Hardware ohne laufende API-Kosten und experimentiere frei über Hugging Face.

Für Unternehmen

Private On-Premise-Bereitstellung eliminiert das Risiko der Datenweitergabe, senkt die Inferenzkosten im Vergleich zu GPT-4-Klasse-APIs bei großem Umfang und ermöglicht branchenspezifisches Fine-Tuning mit eigenen Daten.

Für Edge- und IoT-Branchen

Qualitätskontrolle in der Fertigung mit dem Vision-Modell, Smart-Home- und Robotik-Agenten mit dem 8B-A1B sowie Diagnoseunterstützung in Regionen mit eingeschränkter Konnektivität – all das ist jetzt möglich.

Bringst du ein KI-Produkt auf den Markt, verbrennst aber immer noch Geld für Cloud-Modell-Abos? Bleap bietet dir 0% FX-Gebühren bei der USD-Abrechnung und pauschal 20% Cashback auf Claude, ChatGPT und Gemini – mit einer selbstverwalteten Mastercard und ohne monatliches Abo. Hol dir die Bleap-Karte →

Häufig gestellte Fragen zu LFM 2.5

Welche Hardware braucht LFM 2.5, und läuft es wirklich auf einem Raspberry Pi?

Ja. Die kleineren Varianten laufen mit Quantisierung auch auf schwacher Hardware. LFM2.5-230M schafft 42 Tokens pro Sekunde auf einem Pi 5, während der 2,6B-Agent mit unter 2,5 GB Arbeitsspeicher auskommt – auf einem Smartphone sind das immerhin rund 30 Tokens pro Sekunde.

Wie schlägt sich LFM 2.5 im Vergleich zu DeepSeek und Qwen bei gleicher Parameterzahl?

Im Vergleich zu Qwen liegt LFM2.5-2.6B bei jedem Instruction-Following-Benchmark vorne und bei fast jedem Tool-Use-Benchmark – nur bei BFCLv4 muss es sich Qwen3.5-9B geschlagen geben. Die effiziente Nutzung aktiver Parameter bedeutet deutlich weniger Rechenleistung pro Token als bei dichten Konkurrenzmodellen oder größeren Cloud-Modellen wie DeepSeek-V4-Flash.

Ist LFM 2.5 kostenlos für kommerzielle Zwecke nutzbar?

Größtenteils ja. Die Gewichte sind auf Hugging Face unter der LFM Open License v1.0 verfügbar, die kommerzielle Nutzung erlaubt. Trotzdem solltest du die Lizenzbedingungen genau lesen, bevor du damit ein kommerzielles Produkt aufbaust.

Wo kann ich LFM 2.5-Modelle herunterladen oder darauf zugreifen?

Die Gewichte findest du auf Hugging Face, gehosteten Zugriff bekommst du über OpenRouter oder die Liquid AI API.

Unterstützt LFM 2.5 Bild und Ton, oder nur Text?

Es ist multimodal. Das Release umfasst Base-, Instruct-, Japanese-, Vision-Language- und Audio-Language-Modelle.

Wie schnell ist die Inferenz von LFM 2.5 im Vergleich zu ähnlich großen Modellen?

Für seine Größenklasse extrem schnell. LFM2.5-2.6B erreicht bei hoher Parallelität fast 15.000 Output-Tokens pro Sekunde – dank des Short-Convolution-Backbones und des Sparse-MoE-Routings.

Fazit: Ist LFM 2.5 das Edge-KI-Modell, das man im Blick haben sollte?

LFM 2.5 hat die Aufmerksamkeit verdient: starke Benchmarks, native Multimodal-Unterstützung und eine Architektur, die einerseits leistungsstark genug für Enterprise-Agenten ist, andererseits leicht genug, um auf einem Raspberry Pi zu laufen. Entwickler, die Agenten prototypisieren, Unternehmen, die private KI-Lösungen evaluieren, und Edge-Hardware-Ingenieure sollten sich das jetzt genauer ansehen – am besten direkt bei Hugging Face oder über die API.

Und egal, welche KI-Tools du daneben nutzt: Zahl schlau. Mit Bleap sparst du dir die FX-Gebühren bei USD-Abos, und bei Claude, ChatGPT und Gemini bekommst du bei jeder Verlängerung 20 % Cashback – mit einer selbstverwalteten Mastercard und ganz ohne eigenes Abo.