🧠 KI, Macht und Missbrauch: Wenn Technologie zur Waffe wird
Die rasante Entwicklung künstlicher Intelligenz hat enorme Fortschritte gebracht. Doch parallel entsteht eine Realität, die deutlich unbequemer ist: KI wird gezielt missbraucht – auch zur sexualisierten Gewalt gegen Frauen. Und dieser Missbrauch passiert nicht im luftleeren Raum, sondern innerhalb eines Systems, das von wenigen globalen Tech-Konzernen geprägt wird.
🔍 Die technische Perspektive: Niedrige Hürden, hohe Wirkung
Moderne KI-Tools machen es erschreckend einfach, täuschend echte Inhalte zu erzeugen. Deepfakes, synthetische Bilder und manipulierte Videos entstehen heute in Minuten.
Die Zutaten:
- frei zugängliche KI-Modelle
- riesige Datenmengen aus dem Internet
- Tools, die bewusst auf einfache Bedienbarkeit optimiert sind
Das Ergebnis: Jeder mit minimalem technischen Verständnis kann Inhalte erstellen, die früher hochspezialisierten Experten vorbehalten waren – einschließlich sexualisierter Darstellungen realer Frauen ohne deren Zustimmung.
⚠️ Plattformen als Brandbeschleuniger
Die Verantwortung endet nicht bei den Nutzern. Viele dieser Tools existieren, weil Plattformen sie bereitstellen – oft ohne wirksame Schutzmechanismen.
- Inhalte werden erst entfernt, wenn der Schaden längst entstanden ist
- Moderation ist reaktiv statt präventiv
- Wachstum wird über Sicherheit gestellt
Das ist kein Zufall, sondern Teil eines Systems, das auf maximale Nutzung oder besser gesagt Gewinnmaximierung ausgelegt ist.
📱 Der Fall Collien Fernandes: Ein Symptom, kein Einzelfall
Die breite Empörung rund um Collien Fernandes zeigt, wie schnell solche Fälle eskalieren. Innerhalb kürzester Zeit verbreiten sich Inhalte, werden kommentiert, geteilt, bewertet.
Was dabei oft untergeht:
Die eigentliche Tat – die Erstellung solcher Inhalte – ist nur der Anfang. Die Plattformdynamik vervielfacht den Schaden.
🏢 Die eigentliche Machtfrage: Wer kontrolliert diese Systeme?
Hier wird es unbequem. Denn die Infrastruktur, auf der all das passiert, liegt in den Händen weniger großer US-Tech-Konzerne.
Diese Unternehmen:
- kontrollieren die zentralen Plattformen und KI-Tools
- definieren die Regeln der Sichtbarkeit und Reichweite
- entscheiden, welche Inhalte erlaubt, geduldet oder gelöscht werden
Geführt werden sie überwiegend von einer kleinen, extrem wohlhabenden Elite – häufig weißen Männern aus den USA, die weder demokratisch legitimiert noch gesellschaftlich breit kontrolliert sind.
Das ist keine moralische Randnotiz, sondern eine strukturelle Machtkonzentration.
💰 Empörung als Geschäftsmodell
Ein besonders kritischer Punkt: Plattformen verdienen an genau den Dynamiken, die solche Fälle groß machen.
- Skandale erzeugen Klicks, Kommentare, Shares
- Emotionale Inhalte steigern Verweildauer
- Mehr Aufmerksamkeit bedeutet mehr Werbeeinnahmen
Das System belohnt also genau jene Inhalte, die gesellschaftlich am schädlichsten sind.
Selbst wenn problematische Inhalte später gelöscht werden, haben sie ihren wirtschaftlichen Zweck oft bereits erfüllt.
🧩 Alte Machtmuster, neue Technologie
Die Vorstellung, dass Männer Kontrolle über Frauen ausüben dürfen, ist kein neues Phänomen. Neu ist, wie effizient diese Haltung durch Technologie verstärkt wird.
KI wird hier zum Werkzeug:
- zur Objektifizierung
- zur Demütigung
- zur Machtdemonstration im digitalen Raum
Und die Plattformen liefern die Infrastruktur, die diese Dynamiken skaliert.
⚖️ Regulierung: Notwendig, aber unbequem
Wenn Fälle wie der von Collien Fernandes zu strengeren Gesetzen führen, ist das ein wichtiger Schritt. Aber echte Veränderung bedeutet auch, sich mit der Macht der Plattformen auseinanderzusetzen.
Das heißt konkret:
- Verbindliche technische Schutzmechanismen statt freiwilliger Richtlinien
- Haftung der Anbieter, nicht nur der Nutzer
- Transparenz über Algorithmen und Moderation
- Begrenzung monopolartiger Strukturen
✅ Fazit: Es geht nicht nur um Technologie
Der Missbrauch von KI ist kein isoliertes Problem einzelner Täter. Er ist Teil eines Systems, in dem:
- Technologie ohne ausreichende Kontrolle bereitgestellt wird
- Plattformen von Empörung profitieren
- globale Konzerne gesellschaftliche Dynamiken mitgestalten
Wer über sexualisierte Gewalt durch KI spricht, muss deshalb auch über Macht sprechen. Über wirtschaftliche Interessen. Und über die Frage, warum wir zugelassen haben, dass wenige BigTech-Konzern – geleitet von Männer – so großen Einfluss auf unsere Wahrnehmung, unsere Emotionen und letztlich unser gesellschaftliches Zusammenleben haben.
Mehr zum Thema BigTech und Macht:
Buch: Big Tech muss weg!
Buch: Krieg der Medien – Dark Tech und Populisten übernehmen die Macht
Podcast mit Maya Göpel – Digitale Sicherheit NEU DENKEN mit Martin Andree
