Das Versprechen
Das Framework MLX von Apple soll die lokale Inferenz optimieren: LLMs laufen direkt auf der Neural Engine und der GPU, mit Zugriff auf den gemeinsamen Arbeitsspeicher. Apple vermarktet das iPhone 16 Pro Max als die maßgebliche Hardware für Apple Intelligence. Dennoch kämpfen Entwickler derzeit mit einer starken Verschlechterung der Ausgaben auf dem A18-Pro-Chip. (Quelle: GitHub ml-explore)
Unter der Haube
Der A18-Pro-Chip liefert „Kauderwelsch“, wenn er lokale LLM-Workloads über MLX ausführt. Beim älteren iPhone 15 Pro und beim aktuellen iPhone 17 tritt dieser Fehler nicht auf. (Quelle: GitHub ml-explore).
Eine detaillierte Fehlersuche zeigt: Diese numerischen Abweichungen hängen mit einer Instabilität bei Gleitkommazahlen (FP16) zusammen, und zwar bei der Verarbeitung von Tensoroperationen im Chip. (Quelle: Aditya Karnam/GitConnected).
Quantisierte 4-Bit-Modelle (Q4_K_M) liefern etwas deterministischere Ergebnisse, umgehen die zugrunde liegenden Hardwareprobleme aber nicht vollständig. (Quelle: Aditya Karnam/GitConnected).
Seit der Beta von iOS 26.1 treten ähnliche Regressionen bei CoreML-Tensorlayouts und bei der Zeigerarithmetik auf. (Quelle: Apple Developer Forums #8007).
Das deutet auf eine erhebliche Fehlabstimmung zwischen dem Metal-Compiler und der spezifischen NPU/GPU-Architektur des A18 Pro hin.
Laut Berichten besteht das Problem bei verschiedenen LLM-Architekturen fort, auch bei UNet-Schichten von Stable Diffusion. (Quelle: Rafael Costa Blog).
Wir wissen noch nicht, ob es sich um einen behebbaren Kernel-Fehler in iOS 26.x handelt oder um einen physischen Hardwaredefekt, der einen Rückruf erfordert.
Apple hat sich nicht offiziell dazu geäußert, wie hoch der Anteil der betroffenen A18-Pro-Geräte ist.
Einige Nutzer auf Hacker News behaupten, nur eine Minderheit der Geräte sei betroffen. Doch solange es keine deterministische Lösung gibt, stockt der Einsatz lokaler KI.
Unsere Einschätzung
Für jeden Backend-Engineer, der LLM-Inferenz an den Edge verlagern will, ist der A18 Pro ein Risiko. Wenn Ihre Anwendung medizinische oder finanzielle Daten verarbeitet, bei denen Fehler „um eine Größenordnung“ einem katastrophalen Ausfall gleichkommen, meiden Sie dieses Gerät vollständig.
Das iPhone 17 und die M4-Max-Chips bleiben unbetroffen. Das legt nahe, dass das 16 Pro Max ein Ausreißer beim Chip ist, mit einer fehlerhaften numerischen Pipeline.
Verlagern Sie Ihre Produktionsziele auf das iPhone 17 oder auf iPads der M-Serie, bis Apple einräumt, ob eine Drosselung per Firmware oder ein Austauschprogramm nötig ist.