KI direkt auf dem Smartphone: Bonsai 27B und Googles Gemma 4 E2B

Aktuelle Fortschritte in der KI-Entwicklung ermöglichen es, immer leistungsfähigere Modelle direkt auf Smartphones zu betreiben, anstatt auf Cloud-Dienste angewiesen zu sein. Ein bemerkenswertes Beispiel ist das 27-Milliarden-Parameter-Modell “Bonsai 27B” von PrismML, das auf unter 4 GB komprimiert wurde und somit direkt auf einem iPhone laufen kann.

Laut PrismML behält die kleinste Variante von Bonsai 27B dabei 90 Prozent ihrer ursprünglichen Leistung, wobei Bereiche wie Mathematik und Coding nahezu unberührt bleiben. Es gibt Hinweise darauf, dass Apple diese Technologie bereits testet, was eine mögliche Antwort auf die bisher eher schwache On-Device-KI des Konzerns sein könnte. Diese Entwicklung könnte die Art und Weise, wie wir KI auf mobilen Geräten nutzen, grundlegend verändern und die Abhängigkeit von externen Servern reduzieren, wie The Decoder berichtet: Offenes 27-Milliarden-Parameter-Modell “Bonsai” läuft auf einem iPhone.

Parallel dazu verfolgt auch Google eine ähnliche Strategie und verlagert KI-Funktionen von der Cloud direkt auf das Smartphone. Mit dem Modell “Gemma 4 E2B for TPU” bringt Google ein 2-Milliarden-Parameter-Modell auf Smartphones, das speziell für das Pixel 10 konzipiert ist. Diese Initiative unterstreicht den Trend, KI-Verarbeitung lokal auf dem Gerät durchzuführen, um Geschwindigkeit, Datenschutz und Offline-Funktionalität zu verbessern. Mehr dazu bei heise.de: On-Device-KI: Google bringt 2-Milliarden-Parameter-Modell auf Smartphones.

Warum das fuer Solo-Gruender wichtig ist: Für Solo-Gründer und Selbstständige ohne Programmierkenntnisse eröffnen diese Entwicklungen neue Möglichkeiten. Wenn leistungsstarke KI-Modelle direkt auf dem Smartphone laufen, bedeutet das weniger Abhängigkeit von teuren Cloud-Diensten und eine höhere Verfügbarkeit von KI-Funktionen, auch offline. Dies könnte die Entwicklung von Apps und Diensten erleichtern, die KI nutzen, ohne dass man sich um komplexe Server-Infrastrukturen kümmern muss. Es ermöglicht auch eine schnellere und datenschutzfreundlichere Verarbeitung von Informationen direkt auf dem Gerät des Nutzers, was für viele Geschäftsmodelle von Vorteil sein kann. Es ist ein Schritt hin zu einer zugänglicheren und dezentraleren KI-Nutzung.

Quellen: the-decoder.de · heise.de

KI-gestützte Zusammenfassung mehrerer Quellen (siehe Links oben). Vor Veroeffentlichung von einem Menschen geprueft. ai_generated: true.