Kinderrechte als Basis der Regulierung
Ist gesetzliche Regulierung ein geeignetes Instrument, um eine für Kinder sichere Online-Umgebung zu schaffen? Diese Frage stand im Mittelpunkt von zwei Workshops am Tag 1 des Internet Governance Forums 2021.
Am Nachmittag befasste sich die Dynamic Coalition für die Rechte von Kindern im digitalen Umfeld mit der Bekämpfung von Darstellungen des sexuellen Missbrauchs im Internet. Patrick Burton vom Zentrum für Justiz und Kriminalprävention in Südafrika warnte davor, Regulierung als Allheilmittel für einen sicheren Internetraum zu betrachten. Die Ursachen für die Ausbeutung und den Missbrauch von Kindern lägen außerhalb des Netzes und müssten auch dort bekämpft werden, so Burton. Andreas Hautz von der deutschen Organisation jugendschutz.net und Michael Tunks als Vertreter der britischen Internet Watch Foundation betonten die Verantwortung der Plattformbetreiber. Die Moderation von Inhalten sei zwingend erforderlich, auch wenn die Unterscheidung von illegalen, gefährdenden oder in einem Graubereich angesiedelten Inhalten schwierig sei, müsse diese konsequent getroffen werden, weil man nur so die Menge an Inhalten bewältigen und eine sichere Umgebung gewährleisten könne. Dies unterstrich auch Thiago Tavares von SaferNet in Brasilien, aus dessen Sicht die Moderation von Inhalten unabdingbar ist, um Kindern eine sichere Interneterfahrung zu ermöglichen, ohne ihre Rechte auf Zugang zu Informationen einzuschränken.
Verschlüsselung ist in wichtiges Instrument für Datenschutz und -sicherheit, aber sie geht potenziell einher mit nicht intendierten Effekten auf den Schutz von Kindern, die es gilt sorgfältig zu prüfen. Hautz und Tunks wiesen darauf hin, dass im Dezember 2021 die ePrivacy Directive dazu geführt habe, dass Plattformbetreiber technische Instrumente wie Photo-DNA zur Erkennung von Darstellungen des Kindesmissbrauchs nicht länger eingesetzt haben, so dass eine sehr große Menge derartiger Inhalte ungehindert weiter verbreitet werden konnte. Solche „Kollateralschäden“ einer in guter Absicht vereinbarten, EU-weit geltenden Regulierung gelte es in Zukunft - auch bei den anstehenden Beratungen des Gesetzes über Digitale Dienste - zu verhindern.
Diese Überlegungen wurden direkt aufgegriffen in dem anschließend Workshop 170 zur Frage, wie der Schutz von Kindern im Internet gesetzlich geregelt werden kann, der von der Stiftung Digitale Chancen und dem Deutschen Kinderhilfswerk organisiert wurde.
Sprecher*innen aus Ägypten, Ghana unter Bezugnahme auf weitere Länder des afrikanischen Kontinents, Großbritannien, Deutschland und von der Europäischen Kommission stellten zunächst die jeweils verfolgten Regulierungsansätze vor; ergänzend präsentierte David Miles als Vertreter des Unternehmens Meta / Facebook die Position eines Plattformanbieters.
Nach einer Dekade der Internet Governance, in der De-Regulierung und Selbst-Regulierung vorherrschend waren und die Entfaltung der freien Marktkräfte im Vordergrund stand, zeigt sich nun eine zunehmende Tendenz zu staatlicher Regulierung, um die Rechte der Nutzer*innen zu stärken. Insbesondere die Frage, wie die Moderation von Inhalten im Einklang mit Menschenrechten und unter Berücksichtigung des Schutzes von Kindern und Jugendlichen erfolgen kann, steht dabei im Fokus.
Risikobewertung sei der Schlüssel zur Gewährleistung eines sicheren Raums, erklärte Agne Kaarlep von der Europäischen Kommission, DG CNECT. Dabei gelte es, insbesondere systemische Risiken zu adressieren, deren Wahrscheinlichkeit auf sehr großen Plattformen höher sei als bei kleineren Angeboten, so Kaarlep. Die im deutschen Jugendschutzgesetz und in der britischen Online Safety Bill vorgesehene Verpflichtung der Anbieter zu Vorsichtsmaßnahmen wurde generell begrüßt. David Miles wies darauf hin, dass man ihnen auch die Zeit geben müsse, diese Maßnahmen in einem fortlaufenden Prozess zu entwickeln. Aus seiner Sicht sei es notwendig, einen neuen Typus von Aufsichtsbehörden zu entwickeln und die bereits agierenden Regulierungsbehörden personell weiter aufstocken, damit sie die großen Herausforderungen bewältigen können.
Unter den Teilnehmenden am Workshop bestand Einigkeit, dass es einer neuen Perspektive auf Regulierungsmaßnahmen bedürfe, um den Dialog der Akteure zu fördern. Im Sinne einer dialogischen Regulierung sei notwendig, eine Gesamtstrategie zu entwickeln, um eine gemeinsame Wahrnehmung der Verantwortung zu gewährleisten. Agne Kaarlep machte deutlich, dass Regulierung auf dem Prinzip der Verhältnismäßigkeit basieren müsse, um einen Kompromiss zwischen einer umfassenden Sorgfaltspflicht und spezifischen Verpflichtungen zu erreichen. Dafür wurde von Kenneth Adu Amanfoh, Africa Cybersecurity & Digital Rights Organisation, ein facettenreicher, multidisziplinärer Ansatz vorgeschlagen, der die Entwicklung von Standards umfasst, die in der Praxis und in bei den technischen Entwicklern Anwendung finden. Hoda Dahroug vom Ministerium für Kommunikations- und Informationstechnologien in Ägypten regte an, bei der Schaffung eines sicheren Umfeldes für alle Nutzer*innen auch die Möglichkeiten künstlicher Intelligenz auszuschöpfen.
Regulierung müsse aus der Perspektive des Kindes gedacht werden, regte Thomas Salzmann von der neu geschaffenen Bundeszentrale für Kinder- und Jugendmedienschutz in Deutschland an und fand eine Mitstreiterin in Beeban Kidron von der britischen 5 Rights Foundation. Sie forderte die gesetzgebenden Organe auf nationaler und europäischer Ebene auf, die UN-Kinderrechtskonvention und die Allgemeine Bemerkung Nr. 25 zu den Rechten von Kindern im digitalen Umfeld zu einer Referenz der Gesetze zu machen. So könnte ein harmonisierter Rechtsrahmen geschaffen werden, der auf international anerkannten Standards basiert und die Rechte von Kindern respektiert.