Google öffnet Gemini für Kinder - und alle Warnlampen gehen an

Google macht ernst - und öffnet seinen KI-Chatbot Gemini bald auch für Kinder unter 13 Jahren. Zugang gibt's über das Family-Link-System, das eigentlich zur Kontrolle der digitalen Aktivitäten von Minderjährigen gedacht ist. Klingt nach digitalem Fortschritt, ist aber vor allem: eine Einladung zur Debatte, wie man künstliche Intelligenz mit kindlicher Neugier, fehlender Medienkompetenz und unregulierter Desinformation unter einen Hut bekommen will.

Laut New York Times startet der Rollout in den USA bereits diese Woche. Eltern können dann ihren Kindern offiziell den Zugang zu Gemini erlauben - inklusive aller Risiken, die so ein System mit sich bringt. Google beteuert, es gebe spezielle Schutzmechanismen und die Kinder-Chats würden nicht ins KI-Training einfließen. Beruhigend ist das nicht, wenn man bedenkt, wie oft ähnliche Systeme bereits danebenlagen.

Der Zeitpunkt könnte nicht schlechter gewählt sein. Die Kommission für Jugendmedienschutz (KJM) registriert einen Anstieg an Beschwerden über Inhalte, die Jugendlichen über soziale Plattformen zugespielt werden: extremistisch, diskriminierend, demokratiefeindlich. Genau aus diesen Ecken fischt sich KI ihre Trainingsdaten zusammen - oft ungefiltert, oft nicht hinterfragt.

Meta AI hat es vorgemacht - im schlechtesten Sinne. Erst kürzlich wurde bekannt, dass Minderjährige über Whatsapp Zugriff auf explizite Inhalte erhielten. Intern war das Problem bekannt, reagiert wurde erst, als es zu spät war. Bei Google versichert man zwar, Gemini sei sicher - doch was genau das heißt, bleibt wie so oft diffus.

Hinzu kommt das Grundproblem aller großen Sprachmodelle: Halluzinationen. KI erzählt Dinge, die schlicht falsch sind - aber überzeugend klingen. Für ein Kind kaum zu unterscheiden von echter Information. Gleichzeitig warnen Expert:innen vor weiteren Effekten: KI statt echter Gespräche, Rückzug statt sozialer Interaktion, Verlernen von Empathie durch Chatbot-Gespräche im Pseudo-Dialog.

Die UNESCO fordert klare ethische Leitlinien, Datenschutzvorgaben und ein Mindestalter von 13 Jahren. Google hingegen setzt auf Wachstum - auch bei der Zielgruppe. Die Verantwortung wird dabei auf Eltern abgeschoben, die meist weder die Funktionsweise der Modelle verstehen noch einschätzen können, was ihr Kind da gerade beantwortet bekommt.