Letzte Woche hat Google still und leise eine App veröffentlicht, die es Nutzern ermöglicht, eine Reihe von öffentlich verfügbaren KI-Modellen von der AI-Entwicklungsplattform Hugging Face auf ihren Smartphones auszuführen.
Die App mit dem Namen Google AI Edge Gallery ist für Android verfügbar und wird bald auch für iOS erhältlich sein. Sie ermöglicht es den Nutzern, kompatible Modelle zu finden, herunterzuladen und auszuführen, die Bilder generieren, Fragen beantworten, Code schreiben und bearbeiten können und mehr. Die Modelle laufen offline, ohne dass eine Internetverbindung erforderlich ist, und nutzen die Prozessoren der unterstützten Telefone.
KI-Modelle, die in der Cloud ausgeführt werden, sind oft leistungsfähiger als ihre lokalen Pendants, haben jedoch auch ihre Nachteile. Einige Nutzer könnten Bedenken haben, persönliche oder sensible Daten an ein entferntes Rechenzentrum zu senden, oder möchten Modelle verfügbar haben, ohne eine WLAN- oder Mobilfunkverbindung suchen zu müssen.
Die Google AI Edge Gallery, die Google als „experimentelle Alpha-Version“ bezeichnet, kann von GitHub heruntergeladen werden, indem man diesen Anweisungen folgt. Der Startbildschirm zeigt Verknüpfungen zu KI-Aufgaben und -Funktionen wie „Bild fragen“ und „KI-Chat“. Ein Tipp auf eine Funktion öffnet eine Liste von Modellen, die für die Aufgabe geeignet sind, wie z.B. Googles Gemma 3n.
Die App bietet auch ein „Prompt Lab“, das Nutzer verwenden können, um „einmalige“ Aufgaben zu starten, die von Modellen unterstützt werden, wie das Zusammenfassen und Umschreiben von Text. Das Prompt Lab enthält mehrere Aufgaben-Vorlagen und konfigurierbare Einstellungen, um das Verhalten der Modelle feinzustellen.
Die Leistung kann variieren, warnt Google. Moderne Geräte mit leistungsstärkerer Hardware werden Modelle voraussichtlich schneller ausführen, aber auch die Modellgröße spielt eine Rolle. Größere Modelle benötigen mehr Zeit, um eine Aufgabe abzuschließen – zum Beispiel das Beantworten einer Frage zu einem Bild – als kleinere Modelle.
Google lädt Mitglieder der Entwicklergemeinschaft ein, Feedback zur Erfahrung mit der Google AI Edge Gallery zu geben. Die App steht unter einer Apache 2.0-Lizenz, was bedeutet, dass sie in den meisten Kontexten – kommerziell oder anders – ohne Einschränkungen verwendet werden kann.
