DeepFakes und ihre Folgen im privaten und öffentlichen Raum

Langsam geht es los, Italien macht den Anfang:

Als erstes europäisches Land wird künftig Italien die Verbreitung gefälschter Aufnahmen, die mit Künstlicher Intelligenz (KI) erstellt wurden, mit bis zu fünf Jahren Haft bestrafen. Das vermeldete die Nachrichtenagentur dpa am vergangenen Donnerstag. Dafür wird das italienische Strafgesetzbuch laut Rai-News um den Tatbestand der "unrechtmäßigen Verbreitung von KI-generierten oder manipulierten Inhalten" ergänzt, der "hinterlistige Einsatz von KI" soll als strafverschärfender Umstand gewertet werden. In Italien war zuletzt sogar Ministerpräsidentin Giorgia Meloni Opfer sogenannter Deepfakes geworden. Eine Pornoplattform hatte manipulierte Aufnahmen von ihr veröffentlicht.

So sieht es bei uns aus:

Auch in Deutschland drängen vor allem Politiker von Union und SPD nunmehr darauf, einen vergleichbaren Straftatbestand zu schaffen, der Persönlichkeitsrechtsverletzungen durch KI ahndet. Im Bundesministerium für Justiz und Verbraucherschutz (BMJV) zeigt man sich –anders als noch zu Ampelzeiten – offen für einen solchen Weg.

Gesetzentwurf des Bundesrates
Der Bundesrat hatte bereits kurz vor Ende der vergangenen Wahlperiode eine speziell auf KI ausgerichtete Strafnorm angeregt:

Nach dem Willen der Länderkammer soll ein neuer § 201b Strafgesetzbuch (StGB) eingeführt werden. Strafbar macht sich danach derjenige, "wer das Persönlichkeitsrecht einer anderen Person verletzt, indem er eine mit computertechnischen Mitteln hergestellte oder veränderte Bild- oder Tonaufnahme, die den Anschein einer wirklichkeitsgetreuen Wiedergabe des äußeren Erscheinungsbildes, des Verhaltens oder mündlicher Äußerungen dieser Person erweckt, einer dritten Person zugänglich macht." Strafmaß im Falle der Veröffentlichung: Bis zu fünf Jahre Freiheitsstrafe.

Damit wäre imo sogar schon das Teilen strafbar.

Aber:

Nicht strafbar soll dagegen die Verbreitung von Deepfakes nach dem Vorschlag des Bundesrates dann sein, wenn dies in Wahrnehmung überwiegender berechtigter Interessen erfolgt. Dazu zählen Interessen der Kunst, der Wissenschaft, der Forschung, der Lehre, der Berichterstattung über Vorgänge des Zeitgeschehens oder der Geschichte oder ähnliche Zwecke.

Den identischen Gesetzentwurf hat der Bundesrat nun auch in dieser Wahlperiode dem Bundestag zugeleitet, er dürfte in Kürze beraten werden

Quelle: https://www.lto.de/recht/hintergruende/h/deepfakes-strafbarkeit-schutzluecke-stgb-vorbild-italien-meloni

Ich fand es gut, als ich voeletzte Woche hörte, dass Manfred Lehmann, der Synchronsprecher von Bruce Willis, vor Gericht gewonnen hat. Seine Stimme darf demnach nicht (mehr) mittels KI Nachgebilset und vermarktet werden.
Ein erster Schritt.

Gucky.

Anfang des Jahres "beglückte" uns Grok mit Inhalten... die nicht jedem gefallen und mit sexualisierten Bildern von Kindern. Möglich gemacht von Groks Bildgenerierung.

Man konnte Bilder von Promis (und auch von Kinder) Hochladen und mit der Bitte um ein Bikinibild entsprechend bearbeiten lassen. Ob das öffentlich noch immer so einfach geht, weiß ich nicht.

Ein riesiger Aufschrei ging durch die Medienwelt. Kurze Zusammenfassung:

Fotos sexualisiert per KI: Was auf X gerade passiert

Externer Inhalt
Durch das Abspielen werden Daten an Youtube übermittelt und ggf. Cookies gesetzt.

Scheinbar findet Internet in einigen Köpfen nur noch auf X statt... vielleicht noch bei den anderen Asozialen Medien.
Denn mit Bildgenerierung ist es heute Spielendeinfach Inhalte aller Art zu Produzieren. Natürlich auch Deepfakes. Und es wird immer einfacher.

Gleichzeitig lassen Politiker nie eine Gelegenheit aus, unter dem Vorwand des Kinderschutzes, immer mehr Überwachungsmechanismen zu Installieren. Während wir schön abgelenkt über das für und wider diskutieren, wird der Überwachungsstaat aufgebaut.

Das Sexualisierte Inhalte mit Kindern zurecht ein Tabu ist, darüber brauchen wir nicht zu reden. Ich würde aber viel lieber darüber reden, wie man Kinderarmut bekämpft und wie man Kinderarbeit in anderen Ländern verhindern will. Oder wie man Kinder vor Gewalt schützt, die tatsächlich passiert.

Meiner Meinung nach wird zu wenig getan, um die Ursachen zu beseitigen oder einzugreifen, bevor ein Rechtsbruch passiert.
Wir haben ein Problem mit Deepfakes. Aber wir haben auch ein Problem mit Bildern, die aus aktueller Sicht legal hochgeladen werden (wie das 16-jährige Mädchen im Bikini auf Instagram oder der 11-jährige Sohn, dessen Eltern ihn für ein Meme missbrauchen). Und wir haben ein Problem mit Bildern von Personen, die von Dritten hochgeladen wurden, obwohl die Betroffenen dort nie erscheinen wollten.

Das läuft seit Jahrzehnten so und daraus entstehen echte Probleme: Doxing, Cybermobbing, Identitätsdiebstahl, Grooming.

Es müsste so viel mehr passieren, als einfach nur ein Pflaster drauf zu kleben: "Du, du, du, mach das mal nicht lieber Elon!"
Generell habe ich das Gefühl, das ich als Privatperson um ein vielfaches Wirkungsloser bin, als ein Promi, der die Mittel hat, sein Recht am eigenen Bild einzuklagen.

Negev schrieb:Meiner Meinung nach wird zu wenig getan, um die Ursachen zu beseitigen oder einzugreifen, bevor ein Rechtsbruch passiert.

Wie könnten denn sinnvolle Maßnahmen aussehen?

Negev schrieb:Überwachungsstaat

Den sehe ich so jetzt nicht... Inwiefern siehst du einen?

Ich denke mal mittel- bis langfristig wird die KI das Internet und die social Media Welt von instagramm, tiktok etc. übernehmen, da sehr viel von dem content der dort geliefert wird keine realen Menschen braucht. Andere Plattformen wie twitch wo oftmals der Mensch relevanter ist als der eigentliche Inhalt wird wohl weniger "dramatisch" davon betroffen sein. Und sicherlich werden wir ebenfalls noch erleben, dass nahezu jeder von zu Hause aus über Cloud rechenpower eigene Filme oder Video Spiele per KI erstellen kann sofern es die richtigen Tools gibt.

Die Menschen des Internets werden sich dann wohl auf "inseln" in Form von Foren oder discord Gruppen etc. zurückziehen, in denen sie dann unter sich bleiben wollen und die Plattformen die sicherstellen können, dass KI von ihnen ferngehalten wird, werden die sein die damit gutes geld verdienen werden.

So zumindest meine Tipps :D