Die Entwicklung großer Sprachmodelle (Large Language Models, LLMs) wird weitgehend von US-amerikanischen und chinesischen Technologiekonzernen dominiert. Für europäische Unternehmen und öffentliche Institutionen hat das Konzept der digitalen Souveränität daher eine zentrale strategische Bedeutung erlangt. Digitale Souveränität beschreibt die Fähigkeit, KI-Technologien eigenständig zu entwickeln, zu betreiben, zu auditieren und an regionale rechtliche sowie kulturelle Rahmenbedingungen anzupassen.
In Europa entsteht zurzeit ein vielfältiges Ökosystem aus Open-Source- und Open-Weight-Sprachmodellen. Ziel ist es, proprietäre Systeme durch transparente, kontrollierbare und datenschutzkonforme Alternativen von der Wissenschaft bis zur Industrie zu ergänzen oder zu ersetzen.
Wir haben einige maßgebliche europäische Modelle analysiert und deren architektonische sowie strategische Potenziale zusammengefasst.
Proprietäre Sprachmodelle bergen Risiken für DSGVO-Konformität, Compliance mit dem EU AI Act und den Schutz von Betriebsgeheimnissen, da externe Schnittstellen oft wenig Einblick in Datenverarbeitung und Modellgewichte bieten. Europa setzt als Gegenmodell auf die Verknüpfung von Hochleistungsrechenzentren und sicheren Datenräumen.
Das EuroHPC-Netzwerk liefert mit Supercomputern (wie MareNostrum 5, LUMI, JUWELS/JUPITER, Alps) die notwendige Hardware für Foundation Models. Ergänzt durch europäische Datenräume (z. B. Gaia-X, Catena-X) für sicheren Datenaustausch entsteht eine verlässliche Basis für europäische Sprachmodelle.
Europäische Open-Source-Modelle unterscheiden sich nicht nur durch ihren rechtlichen Rahmen von außereuropäischen Alternativen, sondern auch durch gezielte technische Optimierungen für die Besonderheiten des europäischen Marktes.
US-zentrierte Open-Weight-Modelle nutzen meist für Englisch optimierte Tokenizer. Bei europäischen Sprachen führt das zu hoher „Token-Fertilität“, sowie höheren Inferenzkosten und Latenzen. Europäische Initiativen wie EuroLLM oder Teuken-7B setzen auf mehrsprachige Tokenizer mit Vokabularen von bis zu 128.000 Tokens, die alle 24 EU-Amtssprachen recheneffizient abdecken.
In der Praxis unterscheiden wir zwischen reinen „Open-Weights“-Modellen (bei denen lediglich die trainierten Parameter veröffentlicht werden) und echten „Open-Training-Source“-Ansätzen. Während Open-Weight-Modelle Unklarheiten bei Datenschutz und Urheberrecht bergen, legen Projekte wie Apertus und CroissantLLM den gesamten Entwicklungsprozess offen.
Souveräne europäische Modelle integrieren Compliance-Funktionen wie automatisiertes PII-Removal (die Entfernung personenbezogener Daten) sowie Crawler- und Rechteinhaber-Opt-Outs direkt in die Datenverarbeitung. Dies garantiert regulierten Branchen und dem öffentlichen Sektor eine rechtssichere Grundlage für den Einsatz generativer KI.
Systematisierung Europäischer Open-Source-LLM-Initiativen
| Modell / Serie | Entwickler | Herkunftsland / Region | Parametergrößen | Lizenz | Unterstützte Sprachen & Datengrundlage |
|---|---|---|---|---|---|
| Apertus (1.0 / 1.5) | Swiss AI Initiative (ETH Zürich, EPFL, CSCS) | Schweiz | 8B, 70B (Mini-Reihe: 0.5B, 1.5B, 4B) | Apache 2.0 | 1000+ Sprachen (~40% Nicht-Englisch, 15T Tokens) |
| EuroLLM | UTTER-Konsortium (Unbabel, IST, Univ. Edinburgh, Paris-Saclay, Sorbonne u. a.) | EU / International | 9.15B (EuroLLM-9B), 22.6B | Apache 2.0 | 35+ Sprachen (24 EU-Amtssprachen + 11 weitere; 4T Tokens) |
| Teuken-7B | OpenGPT-X Konsortium (Fraunhofer IAIS/IIS, FZ Jülich, DFKI, IONOS, Aleph Alpha u. a.) | Deutschland | 7B | Apache 2.0 (Commercial v0.4); CC BY-NC 4.0 (v0.6) |
Alle 24 EU-Amtssprachen (~50% Nicht-Englisch, 4T–6T Tokens) |
| Salamandra | Barcelona Supercomputing Center (BSC-LT) | Spanien | 2B, 7B, VL-7B (Vision), TA-7B (Translation) | Apache 2.0 / GPL-3 / Research-Only | 35 europäische Sprachen & Code (7.8T–12.875T Tokens) |
| Pharia-1-LLM | Aleph Alpha Research | Deutschland | 7B (Control & Control-Aligned) | Open Aleph License (Forschung) / Apache 2.0 | Deutsch, Französisch, Spanisch, Englisch (7.7T Tokens) |
| CroissantLLM | CentraleSupélec, Sorbonne Université, CNRS u. a. | Frankreich | 1.3B | MIT License | Bilingual Französisch/Englisch (1:1 Ratio, 3T Tokens) |
| Viking & Poro | Silo AI / TurkuNLP | Finnland / Nordische Region | 7B, 13B, 34B (Poro 2 unter Llama 3.3) | Apache 2.0 | Nordische Sprachen (Finnisch, Schwedisch, Dänisch u. a.), Englisch & Code |
| Moshi | Kyutai Labs | Frankreich | Audio-Language Model (integrierter Mimi-Codec) | Open Source / Permissiv | Multilinguales Sprach- und Textverständnis |
Vertiefende Analyse Bedeutender Europäischer Modellfamilien
Apertus (Swiss AI Initiative)
Apertus wurde als Leuchtturmprojekt der Swiss AI Initiative auf dem Supercomputer „Alps“ mit einem Trainingskorpus von 15 Billionen Tokens trainiert. Der Trainingssatz umfasst über 1.000 Sprachen, wobei etwa 40% der Daten aus nicht-englischen Quellen stammen.
Das Projekt verfolgt den Grundsatz absoluter Transparenz: Neben den Modellgewichten stehen der vollständige Pre-Training-Code, die Datenaufbereitungsrezepte sowie Algorithmen zur Verhinderung von Memorization und PII-Extraktion unter der Apache-2.0-Lizenz zur Verfügung.
EuroLLM (UTTER-Konsortium)
Das EU-geförderte Projekt EuroLLM stellt eine Modellsuite bereit, die alle 24 offiziellen Sprachen der Europäischen Union sowie 11 weitere kommerziell relevante Sprachen nativ beherrscht.
Das Modell EuroLLM-9B wurde auf 400 Nvidia H100 GPUs des Supercomputers MareNostrum 5 trainiert. Die Architektur nutzt eine Dense-Transformer-Struktur mit Grouped Query Attention (GQA, 8 Key-Value-Heads), SwiGLU-Aktivierungsfunktionen und RoPE-Positionseinbettungen. Das Projekt stellt mit EuroFilter auch ein KI-basiertes mehrsprachiges Filterwerkzeug bereit, sowie EuroBlocks als umfangreiche synthetische Instruction-Datensätze.
Teuken-7B (OpenGPT-X)
Teuken-7B wurde auf dem Supercomputer JUWELS Booster an 936 Compute-Knoten mit insgesamt 3.744 Nvidia A100 GPUs auf bis zu 6 Trillionen Tokens trainiert.
Für Unternehmen steht mit Teuken-7B-instruct-commercial-v0.4 eine Variante unter einer Apache-2.0-Lizenz zur Verfügung. Es wurde gezielt für Aufgaben wie Retrieval-Augmented Generation (RAG), Dokumentenzusammenfassung und Informationsextraktion in mehrsprachigen Unternehmens- und Verwaltungsumgebungen optimiert.
Salamandra (Barcelona Supercomputing Center)
Die Modellfamilie Salamandra umfasst 2B- bis 7B-Parameter-Ausführungen sowie multimodale Varianten für maschinelle Übersetzung (SalamandraTA) und visuelle Dokumentenanalyse (Salamandra-VL).
Salamandra deckt 35 europäische Sprachen sowie Programmiersprachen ab und bildet einen zentralen Baustein für eine öffentliche, souveräne KI-Infrastruktur.
Pharia-1-LLM (Aleph Alpha)
Aleph Alpha Research hat mit Pharia-1-LLM-7B ein kompaktes Sprachmodell für juristische und administrative Textverarbeitung entwickelt. Es zeichnet sich durch eine hohe Token-Effizienz im Deutschen (Token-Fertilität von 2.011) und Steuerungsmöglichkeiten für präzise Antwortlängen („Control“-Variante) aus.
CroissantLLM, Viking/Poro und Spezialarchitekturen
Neben universellen Enterprise-Modellen adressieren europäische Akteure gezielt Nischen- und Kantenanwendungen (Edge Computing):
- CroissantLLM (1.3B): Dieses Modell wurde auf französischen und englischen Daten trainiert. Aufgrund seiner geringen Parameterzahl läuft es extrem schnell auf lokaler Hardware.
- Viking & Poro: Entwickelt von Silo AI und TurkuNLP auf dem finnischen LUMI-Supercomputer, optimiert auf nordische Sprachen, Englisch und Code.
- Moshi: Das Full-Duplex Audio-Sprachmodell verarbeitet gesprochene Sprache direkt, was latenzarme Sprachassistenten ohne zwischengeschaltete Text-to-Speech-Kaskaden ermöglicht.
Während US-amerikanische und chinesische Konzerne Modelle mit mehreren hundert Milliarden Parametern entwickeln und betreiben, konzentrieren sich europäische Initiativen überwiegend auf das Größensegment von 1.3B bis 70B Parametern. Diese Priorisierung bietet deutliche Vorteile bei den Betriebskosten, der Inferenzlatenz und der Umsetzbarkeit von On-Premise-Installationen in datenschutzsensiblen Unternehmensumgebungen.
Gleichzeitig führt der Verzicht auf gigantische Parametergrößen jedoch zu Nachteilen bei hochkomplexen mehrstufigen Schlussfolgerungen (Reasoning) sowie breitem Weltwissen, wo globale Frontier-Modelle nach wie vor einen Leistungsvorsprung aufweisen.
Für Entscheidungsträger in der Wirtschaft und öffentlichen Verwaltung empfehlen wir folgende Strategie:
- Spezialisierte Modelle gezielt evaluieren: Prüfen Sie bei der Architekturkonzeption, wo kompakte europäische Open-Weight-Modelle aufgrund ihrer Token-Effizienz und DSGVO-Konformität proprietäre Schnittstellen ersetzen können.
- Open-Source LLMs mit Unternehmensdaten koppeln: Gleichen Sie Wissenslücken kleinerer Modelle durch die Anbindung an eigene Wissensdatenbanken oder Datenräume (z. B. via RAG oder MCP-Server) aus, um maßgeschneiderte KI-Assistenten zu schaffen.
Möchten Sie prüfen, wie sich souveräne Open-Source-LLMs datenschutzkonform in Ihre bestehende MarTech- und IT-Landschaft integrieren lassen? Sprechen Sie mit unseren Experten bei Digital Loop, um maßgeschneiderte KI-Lösungen für Ihr Unternehmen zu entwickeln.
