Frankreich bringt Microsoft und OpenAI zu einer KI-Charta für Kinderschutz

Einige der größten Namen der Techbranche haben gerade einen Text unterschrieben, der Kinder vor KI schützen soll. Der Haken: Es ist eine freiwillige Charta, kein Gesetz.

Das Dokument wurde am Dienstag, dem 10. November 2026, veröffentlicht und heißt „Pariser Appell für KI-Sicherheit“. Microsoft und OpenAI gehören zu den Unterzeichnern, und auch Anthropic soll den Text unterstützen.

Was ist passiert?

Die Charta wurde beim Pariser Friedensforum geschlossen, das am 10. und 11. November stattfand. Sie erschien am selben Tag, an dem eine Gruppe von neun Fachleuten Präsident Emmanuel Macron ihren Bericht übergab.

Diese Gruppe gehört zum CIANum, dem französischen Rat für KI und digitale Fragen. Sie hörte 55 Personen an, darunter Fachleute aus dem Gesundheitswesen, Forschende, Unternehmen und Kinderschutzorganisationen.

Die Charta ist nicht bindend. Unter anderem heißt es darin, KI-Systeme sollten keine sexuellen Inhalte ohne Einwilligung erzeugen und auch keine Inhalte, die sexuellen Missbrauch von Kindern darstellen.

Warum ist das wichtig?

Generative KI, also die Technik hinter Chatbots wie ChatGPT, Gemini oder Claude, wird in Frankreich inzwischen von mehr als der Hälfte der Menschen genutzt. Damit liegt das Land bei der Nutzung weltweit auf Platz fünf.

Deshalb ist die Frage nach jungen Nutzerinnen und Nutzern so dringlich geworden. Die Fachleute sollten die Risiken alltäglicher KI-Werkzeuge untersuchen, vor allem für die psychische Gesundheit junger Menschen.

Was ging voraus?

Das Gremium wurde am 20. Februar beim KI-Gipfel in Neu-Delhi in Indien eingesetzt. Anne Le Hénanff, Frankreichs Ministerin für KI und Digitales, beauftragte es, die Risiken und Schwachstellen zu prüfen, die durch die breite Nutzung dieser Tools entstehen.

Wie geht es weiter?

Da die Charta darauf baut, dass Unternehmen ihr Wort halten, hängt ihre Wirkung davon ab, wie sie sie umsetzen. Der Bericht liegt jetzt beim Präsidenten.