Datum: 2025‑10‑29
Die Forschung im Bereich Künstlicher Intelligenz zeigt derzeit einen spannenden Richtungswechsel: Statt immer größerer Modelle mit Milliarden von Parametern rücken kompakte Architekturen in den Fokus. Ein aktuelles Beispiel dafür ist das Tiny Recursion Model (TRM), das mit lediglich etwa 7 Millionen Parametern bemerkenswerte Leistungen auf anspruchsvollen Knobel‑ und Reasoning‑Aufgaben erzielt.
Was steckt hinter TRM?
TRM wurde von Forschenden bei Samsung SAIT AI Lab, Montréal entwickelt und erstmals vorgestellt unter dem Titel „Less is More: Recursive Reasoning with Tiny Networks“.
Die Methode in Kurzform:
– Ein kompaktes Netzwerk („tiny network“) mit ca. 7 Mio. Parametern.
– Eine rekursive Struktur: Das Modell nimmt eine erste Antwort‑Schätzung, dann wird diese über mehrere Schleifen revidiert und optimiert.
– Ziel: Komplexe Reasoning‑Aufgaben meistern – z. B. das Benchmark‑Set ARC‑AGI („Abstraction and Reasoning Corpus – AGI variant“) – mit sehr viel weniger Ressourcen.
Leistungs‑Highlights
Laut Auswertung erreicht TRM auf ARC‑AGI‑1 eine Testgenauigkeit von etwa 45 % und auf ARC‑AGI‑2 etwa 8 %.
Zum Vergleich: Viele große Modelle mit Milliarden oder gar Billionen Parametern erreichen in jener Domäne geringere Werte.
Das weckt großes Interesse – nicht zuletzt, weil das Motto lautet: „Weniger ist mehr“.
Warum ist das interessant?
– Ressourcenschonend: Ein Modell mit wenigen Millionen Parametern ist günstiger zu trainieren und betreiben.
– Fokus auf Effektivität statt nur auf „mehr Parameter = besser“.
– Neue Perspektive auf Reasoning: Nicht nur Größe zählt, sondern Struktur.
– Potenzial für Spezialanwendungen: Effizienz für klar abgegrenzte Aufgaben.
Aber: wichtige Einschränkungen & offene Fragen
– TRM wurde für spezifische Aufgaben (Puzzle‑, Logik‑, Maze‑Aufgaben) konzipiert. Ob sich der Ansatz verallgemeinern lässt, ist offen.
– Der Mechanismus, warum die Rekursion so viel bringt, ist noch nicht vollständig verstanden.
– Erfolgszahlen könnten von spezifischer Datenumgebung abhängen.
Ausblick
Für Unternehmen und Forschung heißt das: Kompakte Modelle verdienen mehr Aufmerksamkeit – besonders dort, wo Rechenressourcen limitiert sind. Gleichzeitig bleibt „klein“ kein Allheilmittel. Wenn TRM‑ähnliche Ansätze breiter einsetzbar werden, könnte das ein Schritt hin zu effizienteren, nachhaltigen KI‑Systemen sein.
Quellen:
1. Jolicoeur‑Martineau, Alexia. Less is More: Recursive Reasoning with Tiny Networks. arXiv preprint arXiv:2510.04871, 6 Oct 2025. URL: https://arxiv.org/abs/2510.04871.
2. Samsung SAIT AI Lab – TinyRecursiveModels (GitHub). URL: https://github.com/SamsungSAILMontreal/TinyRecursiveModels.
3. Schmelzer, Ron. “Samsung AI Research Team Builds A Tiny Model With Big …” Forbes, 9 Oct 2025. URL: https://www.forbes.com/sites/ronschmelzer/2025/10/09/samsung‑ai‑research‑team‑builds‑a‑tiny‑model‑with‑big‑powe/.
4. “Tiny Recursive Model (TRM): A Deep Dive.” Into AI, 16 Oct 2025. URL: https://intoai.pub/p/tiny‑recursive‑model.
5. Reddit discussion: “Recursive Reasoning with Tiny Networks (7M model beats …)”. Reddit, r/LocalLLaMA. URL: https://www.reddit.com/r/LocalLLaMA/comments/1o1e04z/less_is_more_recursive_reasoning_with_tiny/.