Anfang des Jahres reichte Google eine Patentanmeldung für neue Methoden, Systeme und Medien zur Identifizierung von Videos mit anstößigem Inhalt ein, die auf eine soziale Website oder einen Videodienst hochgeladen werden. Ein Beispiel dafür ist YouTube, auch wenn diese Plattform im Antrag nicht ausdrücklich genannt wird.
Die Patentanmeldung, die erst diesen Monat veröffentlicht wurde, unterscheidet sich in gewisser Weise von anderen automatisierten Methoden und Systemen, die Google und andere Giganten wie Microsoft bereits nutzen, um ihren Zensurapparat zu betreiben. In diesem Fall liegt der Schwerpunkt eher darauf, wie Künstliche Intelligenz (KI) in diesen Mix integriert werden kann.
In immer mehr Ländern werden Zensurgesetze eingeführt, bei denen die Geschwindigkeit, mit der Inhalte entfernt oder Konten gesperrt werden, eine zentrale Anforderung an Social-Media-Unternehmen darstellt. Google könnte dies im Hinterkopf haben, wenn es heißt, dass das Patent darauf abzielt, die schnelle Erkennung anstößiger Inhalte zu verbessern, “um sie möglicherweise zu entfernen”.
Die Schlüsselfrage dabei ist, was als “anstößiger Inhalt” gilt. Dies ist weniger eine Definition als vielmehr eine erweiterbare und unterschiedlich interpretierbare Liste, die Punkte wie Gewalt, Pornografie, anstößige Sprache, Tierquälerei und als Sahnehäubchen “und/oder jede andere Art von anstößigem Inhalt” umfasst.
In den Unterlagen wird detailliert beschrieben, wie das neue System von Google funktioniert. Wenig überraschend bedeutet KI hier maschinelles Lernen (ML) und neuronale Netze. Diese Technologie soll das menschliche Gehirn imitieren, läuft aber letztlich auf eine Reihe von Gleichungen hinaus, die sich von gewöhnlichen Algorithmen dadurch unterscheiden, dass sie Pixel für Pixel “lernen”, was ein Bild oder in diesem Fall ein Video ist.
Aus der Beschreibung des Prozesses geht hervor, dass es sich um eine Art generatives adverses Netz (GAN) handelt – zwei neuronale Netze, die beim “Lernen” miteinander konkurrieren.
Google sagt, dass es “Einbettungen” aus Inhalten oder sogar Metadaten erstellt und diese mit anderen bekannten anstößigen Inhalten vergleicht. Beide “schweben” in zwei separaten “mehrdimensionalen Räumen”, die andere “Einbettungen” enthalten.
Das ist eine Art zu sagen: “Hier werden riesige Datensätze benötigt”.
Einige Beobachter halten diese und ähnliche Bemühungen um eine “KI-basierte” Zensurtechnologie für logisch, angesichts der Menge an Inhalten, die die Plattformen bearbeiten müssen. Allerdings gibt es auch viele Probleme, einschließlich falsch positiver und negativer Ergebnisse bei der nicht enden wollenden Jagd nach “Desinformation” und “Schaden”.
