Guterres stellt KI-Kinderschutzverpflichtung mit drei Regeln vor – offen bleibt, wer unterschreibt

António Guterres hat den ersten UN-Weltdialog über KI-Governance in Genf mit einer Warnung und einer Bitte eröffnet. Die Warnung: Künstliche Intelligenz entwickle sich „in rasendem Tempo“, ohne dass es passende Regeln dafür gebe. Die Bitte: Jedes KI-Unternehmen solle eine „KI-Kinderschutzverpflichtung“ mit drei Zusagen unterzeichnen, bevor Minderjährige überhaupt mit seinen Systemen in Berührung kommen dürfen ²⁴⁹.

Die Verpflichtung ist kein völkerrechtlicher Vertrag. Sie ist ein politischer Maßstab – eine öffentlich gezogene Linie, getragen vom moralischen Gewicht des Amtes des Generalsekretärs, an der sich Regierungen und Unternehmen künftig messen lassen müssen ⁵. Dieser Unterschied ist wichtig. Eine Verpflichtung kann abgelehnt, ignoriert oder stillschweigend zu den Akten gelegt werden. Ein Vertrag nicht. Guterres setzt darauf, den Standard so laut zu benennen, dass „Wir wussten es nicht“ keine akzeptable Antwort mehr ist.

Die Berichterstattung über die Rede nennt übereinstimmend dieselben drei Zusagen, auch wenn keine Quelle in diesem Bestand sie wörtlich als nummerierte Liste wiedergibt. Erstens müssen Unternehmen nachweisen, dass ihre KI-Systeme sicher sind, bevor Kinder sie nutzen dürfen ³⁸. Zweitens dürfen die Systeme Kinder „weder manipulieren noch sexualisieren, und sie sollten in Krisen keine synthetischen Gespräche in die Länge ziehen“ ³¹¹. Drittens muss die Maschine, wenn ein Kind in Not ist, aufhören und die Interaktion an einen echten Menschen übergeben ³⁵⁸. Model Diplomat bestätigt die Einordnung als „Kinderschutzverpflichtung mit drei Regeln“ ⁵.

Unter den Regeln liegt eine schärfere Rahmung. Kinder, sagte Guterres, seien keine „Versuchskaninchen“ für unregulierte Technologie ³¹¹. Die Wortwahl ist bewusst. Sie behandelt den derzeitigen Einsatz von KI bei Minderjährigen als ein Experiment ohne Einwilligung – und die Verantwortlichen als diejenigen, die sich nun rechtfertigen müssen.

Die Erzählstimme des Videos verortet die Ankündigung auf den 7. Juli beim Genfer Dialog. Die Berichterstattung widerspricht dem. Die UN-Pressemitteilung und die meisten unabhängigen Berichte datieren die Eröffnungsrede, in der die Verpflichtung vorgestellt wurde, auf den 6. Juli 2026 ²⁴⁵⁸⁹. Der 7. Juli war der zweite Gipfeltag, und der Schwerpunkt lag woanders – auf Verantwortlichkeit und auf der Frage, wer rechtlich haftet, wenn KI-Systeme Schaden anrichten ⁶. Die Verpflichtung gehört zum ersten Tag.

Die Kinderschutzverpflichtung war die Schlagzeile, aber nicht die einzige Forderung von Guterres. Er erneuerte seinen Aufruf zu einem Verbot autonomer Waffen, die er zuvor als „Killerroboter“ bezeichnet hatte, und beschrieb den größeren KI-Moment als unkontrolliertes Experiment, das an Gesellschaften „ohne Plan und ohne Einwilligung“ durchgeführt werde ⁴. Reuters griff dieselbe Rede auf und zitierte den Generalsekretär, der KI als Technologie beschrieb, die „Volkswirtschaften umgestalten, die Arbeitswelt verändern, Wahlen beeinflussen und das Gleichgew…“ – der Satz bricht im vorliegenden Auszug ab ⁹. Der unvollendete Satz bringt die Rede auf den Punkt: Jeder Satzteil nach „das Gleichgewicht“ könnte eine Warnung sein.

Am Dialog selbst nahmen alle 193 UN-Mitgliedstaaten teil ¹¹, was ein Grund dafür ist, dass eine unverbindliche Verpflichtung dennoch ein bedeutsames Instrument ist. Sie bringt 193 Regierungen in den Raum, in dem der Standard gesetzt wird, auch wenn dieser freiwillig ist.

Die Dringlichkeit des Videos stützt sich auf eine Reihe von Statistiken: NCMEC-Meldungen zu Darstellungen sexuellen Kindesmissbrauchs (CSAM) von 4.700 im Jahr 2023, 67.000 im Jahr 2024 und 440.000 im ersten Halbjahr 2025; eine Angabe der Internet Watch Foundation über einen 260-fachen Anstieg KI-generierter Missbrauchsvideos gegenüber dem Vorjahr; 65 Prozent des KI-generierten Missbrauchsmaterials, das der schwersten Kategorie zugeordnet wird; 97 Prozent der Opfer seien Mädchen; einer von siebzehn Teenagern sei von Deepfake-Nacktbildern betroffen; jährlich seien weltweit rund 300 Millionen Kinder betroffen; eine gemeinsame Erklärung vom Januar, mitunterzeichnet von 14 UN-Einrichtungen und mehr als 60 zivilgesellschaftlichen Gruppen; sowie eine Zuschreibung an „Sophie Kiladze, Vorsitzende des Kinderrechtsausschusses“. Keine dieser Zahlen und keiner dieser Namen taucht in den für diesen Artikel zusammengestellten Quellen auf ^234567891011. Das macht sie nicht falsch. Es bedeutet aber, dass dieser Artikel sie nicht wiedergeben kann, als wären sie unabhängig überprüft. Die Verpflichtung stützt sich auf die Rede und die Berichterstattung darüber; die begleitenden Zahlen gehören zu einer separaten Beweisgrundlage, die hier nicht geprüft wurde.