Künstliche Intelligenz: Stellungnahme von UNICEF zur Nutzung von K durch Kinder im Vorfeld des ersten Globalen Dialogs zur KI-Governance.
New York/Florenz/Wien – „KI ist da. Sie wird zu einem immer größeren Bestandteil unseres aller Lebens. Und sie prägt bereits heute die Kindheit auf der ganzen Welt – im Guten wie im Schlechten.
Neue Erkenntnisse machen das Ausmaß und die Geschwindigkeit ihrer Verbreitung unter Kindern weltweit deutlich und legen zugleich die Risiken und Ungleichheiten offen, die damit einhergehen.
Eine Analyse von UNICEF auf Grundlage neuer Daten aus zehn Ländern schätzt, dass mindestens 20 Millionen Kinder Künstliche Intelligenz (KI) genutzt haben. Viele von ihnen überholen Erwachsene deutlich und übernehmen die Technologie mit einer mehr als dreimal so hohen Geschwindigkeit.
Mehr als 2 Millionen Kinder – also jedes zehnte Kind – gaben an, sich mit Ratschlägen zu Themen, die ihnen Sorgen bereiten, an KI zu wenden. Schätzungsweise 13 Millionen Kinder nutzen KI zur Unterstützung beim Lernen und bei den Hausaufgaben.
Während sich die Nutzung von KI durch Kinder rasant beschleunigt, können die Regeln, die ihren Einsatz steuern – einschließlich der Schutzmaßnahmen für Kinder –, kaum Schritt halten.
Kinder sind KI-Systemen stärker ausgesetzt – einschließlich ihrer Gestaltung, der zugrunde liegenden Geschäftsmodelle und der Art und Weise, wie ihre Daten verwendet werden. Gleichzeitig haben sie weitaus weniger Möglichkeiten, diesen Systemen auszuweichen oder sie anzufechten. Die Folgen unzureichender Regulierung treffen Kinder zuerst, und sie werden am längsten mit deren Konsequenzen leben müssen. Dennoch räumt die überwiegende Mehrheit der KI-Governance dem Wohl von Kindern keine Priorität ein.
Auch wenn KI das Potenzial hat, Kindern neue Möglichkeiten zum Lernen, Spielen und kreativen Gestalten zu eröffnen, befinden sich die Erkenntnisse über ihre Auswirkungen auf die kognitive Entwicklung, emotionale Abhängigkeiten und die Exposition gegenüber Risiken noch in einem frühen Stadium. Tatsächlich wächst eine ganze Generation innerhalb eines globalen Experiments auf.
Die Kinder selbst erkennen die Risiken. In den zehn untersuchten Ländern äußerte ein Drittel der Kinder Bedenken darüber, dass KI eingesetzt werden könnte, um andere zu betrügen und zu täuschen oder Falschinformationen zu verbreiten. Ein Viertel befürchtete zudem, dass ihre Bilder oder Videos zu sexuell expliziten Deepfakes manipuliert werden könnten. Zu viele Systeme erreichen Kinder ohne ausreichende Schutzvorkehrungen, Sicherheit scheint dabei oftmals nur ein nachträglicher Gedanke zu sein.
Im Vorfeld des ersten Globalen Dialogs zur KI-Governance fordert UNICEF Regierungen, den Privatsektor und weitere Partner auf, Kinderrechte – insbesondere das Recht auf Sicherheit und Schutz – fest in der globalen KI-Governance zu verankern, indem sie:
- in Forschung zu den Auswirkungen von KI auf die Entwicklung und das Wohlergehen von Kindern investieren, insbesondere im Hinblick auf Risiken;
- Gesetze, Governance-Rahmenwerke und die Rechenschaftspflicht von Unternehmen stärken, um KI-gestützte sexuelle Ausbeutung und sexuellen Missbrauch zu verhindern;
- sicherstellen, dass KI-Systeme mit einem Höchstmaß an Sicherheit und Transparenz entwickelt werden, damit alle Kinder geschützt werden können und zugleich von den Chancen profitieren;
- die KI-Kompetenz fördern und Kinder sowie ihre Eltern oder Betreuungspersonen dabei unterstützen, sich erfolgreich in der digitalen Umgebung zu bewegen;
- in digitale Infrastruktur und eine sinnvolle digitale Konnektivität für jedes Kind sowie dessen Eltern oder Betreuungspersonen investieren – zu Hause und in der Schule –, um die KI-Kluft zwischen und innerhalb von Ländern zu verringern.
Dies ist ein entscheidender Moment. Die Entscheidungen, die heute im Zusammenhang mit KI getroffen werden, werden über Jahrzehnte hinweg die Sicherheit, Privatsphäre, das Wohlergehen und den gleichberechtigten Zugang von Kindern zu Chancen prägen.“
Hinweise
Bleiben Sie immer informiert und abonnieren Sie den UNICEF Österreich WhatsApp-Channel.
Zur UNICEF-Analyse „Snapshot of AI Usage and Concerns Among Children and Parents“
Dieses Briefing basiert auf Umfragedaten aus Disrupting Harm Phase 2, der zweiten Phase eines Forschungsprojekts unter der Leitung des UNICEF-Büros für Strategie und Evidenz – Innocenti, ECPAT International und INTERPOL, finanziert durch Safe Online. In die Analyse einbezogen wurden Armenien, Brasilien, Kolumbien, die Dominikanische Republik, Jordanien, Mexiko, Montenegro, Nordmazedonien, Pakistan und Serbien.
Die hier dargestellten Schätzungen basieren auf national repräsentativen Haushaltsbefragungen, die von UNICEF und IPSOS in diesen zehn Ländern durchgeführt wurden. Pro Land wurden etwa 1.000 internetnutzende Kinder im Alter von 12 bis 17 Jahren sowie 1.000 ihrer Eltern oder Betreuungspersonen befragt. Dabei kam ein Stichprobendesign zum Einsatz, das eine vollständige oder nahezu vollständige nationale Abdeckung (91–100 Prozent) gewährleisten sollte. Die nationalen Punktschätzungen wurden verwendet, um bevölkerungsweite Kennzahlen zu modellieren. Dabei erfolgte eine Gewichtung anhand von Bevölkerungsdaten der Vereinten Nationen für das Jahr 2024 sowie geschätzter Internetnutzungsraten von Kindern. Die Untersuchung wurde in Ländern durchgeführt, die unterschiedliche regionale Kontexte repräsentieren.