KI-Modelle laufen zunehmend direkt auf dem Smartphone, ganz ohne Internetverbindung oder Cloud-Server. Apple integriert mit AFM 3 Core und AFM 3 Core Advanced zwei eigene Foundation-Modelle fest in iOS, Google bietet mit Gemini Nano und dem offenen Gemma 4 vergleichbare Bausteine für Android. Wie leistungsfähig diese Modelle sind, unterscheidet sich stark in Parameterzahl, Kontextfenster und unterstützten Eingabeformaten.
Apple liefert zwei Foundation-Modelle direkt im iPhone aus
Apples Basismodell AFM 3 Core arbeitet mit rund drei Milliarden Parametern und läuft auf allen Apple-Intelligence-fähigen Geräten. Es verarbeitet Text und Bilder als Eingabe und gibt Text aus. Das Kontextfenster teilen sich Ein- und Ausgabe: Laut Apples Entwicklerdokumentation stehen insgesamt 4.096 Token zur Verfügung, davon bleiben rund 96 Token für die Antwort. Zur WWDC am 8. Juni 2026 stellte Apple mit AFM 3 Core Advanced ein zweites, deutlich größeres Modell vor. Es nutzt eine Sparse-Architektur mit 20 Milliarden Parametern, aktiviert je Anfrage aber nur ein bis vier Milliarden davon. Das Modell ist laut Apple Machine Learning Research nativ multimodal und verarbeitet zusätzlich Audio. Anders als das Basismodell läuft AFM 3 Core Advanced nur auf dem iPhone 17 Pro sowie auf iPad- und Mac-Modellen mit A19-Pro-, M3- oder M4-Chip; Geräte mit acht Gigabyte Arbeitsspeicher sind ausgeschlossen. Für Aufgaben, die über die Möglichkeiten des Geräts hinausgehen, springt bei Bedarf Apples Private Cloud Compute mit einem deutlich größeren Kontextfenster von 32.000 Token ein – dann allerdings nicht mehr rein lokal.
Google bringt Gemini Nano und das offene Gemma 4 auf Android
Auf Android-Seite läuft Gemini Nano über den Systemdienst AICore auf kompatiblen Geräten wie Pixel-Smartphones. Zu Parameterzahl und Kontextfenster veröffentlicht Google bislang keine offiziellen Werte. Seit dem 2. April 2026 bietet Google zusätzlich Gemma 4 in der AICore-Entwicklervorschau an – ein offenes Modell in zwei Größen. E2B kommt laut Googles Modellkarte auf 2,3 Milliarden effektive Parameter (5,1 Milliarden inklusive Einbettungen), E4B auf 4,5 Milliarden effektive Parameter (8 Milliarden inklusive Einbettungen). Beide Varianten bieten ein Kontextfenster von 128.000 Token, verarbeiten Text, Bilder und Audio und unterstützen mehr als 140 Sprachen. E2B ist dabei auf Geschwindigkeit getrimmt und rund dreimal schneller als E4B, das im Gegenzug mehr Rechenleistung für komplexere Aufgaben bereitstellt. Die Modelle laufen auf AICore-fähigen Geräten mit Neural-Processing-Einheiten von Google, MediaTek oder Qualcomm.
Offene Modelle wie Gemma 4 laufen inzwischen auch auf dem iPhone
Gemma 4 ist kein Apple-Produkt, aber offen verfügbar – und lässt sich deshalb auch auf dem iPhone betreiben, etwa über Googles eigenes LiteRT-LM, Apples Framework MLX oder das quelloffene llama.cpp. Ein im Mai 2026 veröffentlichter Benchmark auf Medium maß auf einem iPhone 17 bei Gemma 4 E2B rund 37,8 Token pro Sekunde mit llama.cpp, während Googles eigenes LiteRT-LM rund 55,4 Token pro Sekunde erreichte. Ein weiteres Beispiel für offene Modelle auf dem iPhone ist Bonsai 27B von PrismML: Das kalifornische Start-up komprimiert ein 27-Milliarden-Parameter-Modell durch Quantisierung auf 3,9 bis 5,9 Gigabyte und behält dabei laut eigenen Angaben ein Kontextfenster von 262.000 Token. Über die App Locally AI läuft es auf iPhones ab Modell 15 mit rund elf Token pro Sekunde – die Werte stammen von PrismML selbst und sind unabhängig nicht verifiziert. Auch Microsoft bietet mit Phi-4-mini (3,8 Milliarden Parameter, reines Text-Modell) und Phi-4-multimodal (5,6 Milliarden Parameter, verarbeitet zusätzlich Bild und Sprache) offene Modelle mit jeweils 128.000 Token Kontextfenster an, die sich über Apps auf Basis von MLX oder ONNX Runtime lokal auf iPhone und Android nutzen lassen.
| Modell | Plattform | Effektive Parameter | Kontextfenster | Eingabe | Ausgabe |
|---|---|---|---|---|---|
| Apple AFM 3 Core | iPhone (Apple Intelligence) | ca. 3 Mrd. | 4.096 Token (geteilt) | Text, Bild | Text |
| Apple AFM 3 Core Advanced | iPhone 17 Pro, iPad/Mac mit M3/M4 | 20 Mrd. (1–4 Mrd. aktiv) | von Apple nicht beziffert | Text, Bild, Audio | Text |
| Google Gemini Nano | Android (AICore) | von Google nicht beziffert | von Google nicht beziffert | Text | Text |
| Google Gemma 4 E2B | Android (AICore), iPhone (Drittanbieter) | 2,3 Mrd. (5,1 Mrd. mit Embeddings) | 128.000 Token | Text, Bild, Audio | Text |
| Google Gemma 4 E4B | Android (AICore), iPhone (Drittanbieter) | 4,5 Mrd. (8 Mrd. mit Embeddings) | 128.000 Token | Text, Bild, Audio | Text |
| Microsoft Phi-4-mini | iPhone/Android (Drittanbieter-Apps) | 3,8 Mrd. | 128.000 Token | Text | Text |
| Microsoft Phi-4-multimodal | iPhone/Android (Drittanbieter-Apps) | 5,6 Mrd. | 128.000 Token | Text, Bild, Audio | Text |
| PrismML Bonsai 27B (komprimiert) | iPhone ab Modell 15 | 27 Mrd. (auf 3,9–5,9 GB komprimiert) | 262.000 Token (laut PrismML) | Text, Bild | Text |
Entscheidend wird, ob Apple AFM 3 Core Advanced über die aktuell exklusiven iPhone-17-Pro- und M3/M4-Geräte hinaus öffnet oder ob offene Alternativen wie Gemma 4 und Bonsai 27B die Lücke auf älteren Geräten weiter schließen. Für Google bleibt zudem offen, wann Gemini Nano vollständige technische Spezifikationen erhält oder ob Gemma 4 in AICore langfristig die führende Rolle übernimmt.
