Google lässt AI-Modelle per Android oder iPhone-App direkt am Smartphone laufen

Direkt am Gerät statt in der Cloud: Google hat eine neue Anwendung veröffentlicht, die es Nutzern ermöglicht, KI-Modelle direkt auf ihren Smartphones auszuführen, ohne eine Internetverbindung zu benötigen. Die als experimentelle Alpha-Version veröffentlichte „Google AI Edge Gallery“ zeigt Googles Strategie zur dezentralen KI-Verarbeitung auf.

Lokale KI-Verarbeitung als Alternative zur Cloud

Die Android-App, die bald auch für iOS verfügbar sein soll, erlaubt es Nutzern, kompatible KI-Modelle von der Entwicklerplattform Hugging Face herunterzuladen und auszuführen. Diese Modelle können verschiedene Aufgaben bewältigen, darunter Bildgenerierung, Fragen beantworten und Code-Erstellung. Die Verarbeitung erfolgt vollständig offline über die Prozessoren unterstützter Geräte.

Während Cloud-basierte KI-Modelle oft leistungsfähiger sind, bietet die lokale Verarbeitung entscheidende Vorteile: Nutzer müssen keine sensiblen Daten an externe Rechenzentren senden und sind nicht auf Internetverbindungen angewiesen.

Funktionsumfang und Bedienung

Die über GitHub verfügbare Anwendung präsentiert auf der Startseite verschiedene KI-Funktionen wie „Ask Image“ und „AI Chat“. Nach Auswahl einer Kategorie zeigt die App geeignete Modelle an, beispielsweise Googles Gemma 3n. Ein integriertes „Prompt Lab“ ermöglicht die Ausführung einzelner Aufgaben wie Textzusammenfassungen oder Umformulierungen.

Die Leistung variiert je nach Gerätehardware und Modellgröße. Moderne Geräte mit leistungsfähigerer Hardware führen Modelle schneller aus, während größere Modelle erwartungsgemäß mehr Zeit für die Aufgabenbearbeitung benötigen.

Googles umfassende Edge-KI-Strategie

Die App ist Teil von Googles breiterem „AI Edge Stack„, einer Technologie-Suite für die Bereitstellung von KI in mobilen, Web- und eingebetteten Anwendungen. Diese umfasst:

• MediaPipe Tasks: Low-Code-APIs für gängige KI-Aufgaben in den Bereichen generative KI, Computer Vision, Text und Audio. Entwickler können damit schnell KI-Funktionen in ihre Anwendungen integrieren.
• LiteRT: Ein System zur plattformübergreifenden Bereitstellung von KI-Modellen mit hardwarespezifischer Optimierung. Es unterstützt Modelle aus verschiedenen Frameworks (JAX, Keras, PyTorch, TensorFlow) und ermöglicht deren Ausführung auf Android, iOS, Web und Mikrocontrollern.
• MediaPipe Framework: Ein Low-Level-Framework für hochleistungsfähige ML-Pipelines, das mehrere Modelle mit Vor- und Nachverarbeitung kombiniert.
• Model Explorer: Ein Visualisierungstool zur Analyse und Optimierung von Modellen mit Leistungsbenchmarks.

Entwicklerausrichtung und Lizenzierung

Google richtet sich mit der AI Edge Gallery primär an Entwickler und bittet um Feedback zur Anwendungserfahrung. Die unter Apache 2.0-Lizenz veröffentlichte Software kann sowohl für kommerzielle als auch nicht-kommerzielle Zwecke uneingeschränkt genutzt werden.

Die Initiative zeigt Googles Bestreben, KI-Verarbeitung näher zum Nutzer zu bringen und Alternativen zur ausschließlich Cloud-basierten KI-Nutzung zu schaffen. Dies entspricht dem wachsenden Trend zur „Edge AI“, bei dem Rechenleistung und Datenverarbeitung dezentralisiert werden.