Google erweitert seine Familie quelloffener Sprachmodelle um eine neue, hochspezialisierte Ausgabe: Gemma 3 270M. Das kompakte KI-Modell verfügt über nur 270 Millionen Parameter und wurde speziell für die Anpassung an bestimmte Aufgaben (das sogenannte Finetuning) entwickelt.
Die Architektur teilt sich in 170 Millionen Parameter für den Wortschatz und 100 Millionen Parameter für die eigentliche Verarbeitung auf. Dank eines umfangreichen Vokabulars von 256.000 Tokens kann das Modell auch seltene und fachspezifische Wörter verstehen, was es zu einer guten Basis für spezialisierte Anwendungen macht.
Ein besonderer Vorteil liegt in der extremen Energieeffizienz. Interne Tests auf einem Pixel 9 Pro zeigten, dass die komprimierte Version nur 0,75 Prozent der Batterie für 25 Gespräche verbrauchte. Damit ist Gemma 3 270M das sparsamste Modell der Gemma-Familie.
Das Modell eignet sich besonders für klar definierte Aufgaben wie die Bewertung von Textstimmungen, das Herausfiltern wichtiger Informationen oder die automatische Kategorisierung von Inhalten. Durch seine kompakte Größe ermöglicht es schnelle Anpassungsexperimente und kann direkt auf Smartphones oder anderen Geräten laufen, ohne Daten in die Cloud zu senden.
Als Beispiel für kreative Anwendungen zeigt Google einen Bedtime Story Generator, der personalisierte Gute-Nacht-Geschichten erstellt. Klingt jetzt noch nicht so krass, aber: Das Modell läuft vollständig im Browser (sollte allerdings auf Chromium-Basis sein). Das braucht zwar ein paar Momente, um komplett geladen zu werden; dann klappte zumindest in meinem Test die Generierung ziemlich flott. Beeindruckende Tech-Demo, großartige Schriftstellerkunst dürft ihr aber natürlich nicht erwarten. Mit den großen Modellen in Gemini, ChatGPT und Co. ist das nicht vergleichbar.
Google verfolgt mit Gemma 3 270M die Philosophie des „richtigen Werkzeugs für den Job“ – statt überdimensionierte Modelle für einfache Aufgaben zu verwenden, sollen Entwickler spezialisierte, effiziente Lösungen erstellen.