Googles Tools zur Bekämpfung von Fälschungen werden immer geschickter darin, Ergebnisse zu verbergen und Bilder zu entfernen.
Google hat die Entfernung von Deepfake-Pornos auf Wunsch der Darsteller verstärkt und die Hauptsuchfunktion geändert, um das Auffinden nicht konsensueller Inhalte zu erschweren.
Jüngste Fortschritte in der generativen KI haben zu einer raschen Zunahme realistischer Deepfake-Pornofilme und -Fotos geführt, die ohne das Wissen der Beteiligten im Internet aufgetaucht sind. Deepfake-Inhalte können nicht nur für die Beteiligten sehr unangenehm sein, sondern auch illegal für Dinge wie finanzielle Erpressung verwendet werden
Googles neueste Offensive zielt darauf ab, Bilder zu entfernen und gleichzeitig Informationen über den Schaden zu verbreiten, der durch Deepfake-Pornos verursacht wird. Nutzer können Google bereits bitten, ein vermeintliches Deepfake-Bild von sich selbst aus den Suchergebnissen zu entfernen; wird der Entfernung zugestimmt, versucht die Suchmaschine nun, alle expliziten Ergebnisse von Suchen auszuschließen, die mit dem Nutzer in Verbindung stehen.
Wenn ein vermeintliches Deepfake-Bild erfolgreich entfernt wurde, suchen die Google-Systeme nun nach Duplikaten dieses Bildes und entfernen alle gefundenen Duplikate.
Theoretisch wird dies zu einem viel leistungsfähigeren Deepfake-Entfernungssystem führen, das das Entfernungsnetzwerk von Google erweitert. Google erklärte: "Diese Initiativen sollen den Menschen zusätzliche Sicherheit geben, vor allem wenn sie sich Sorgen machen, dass in Zukunft ähnliche Inhalte über sie auftauchen könnten.
Darüber hinaus hat Google Änderungen vorgenommen, die es generell schwieriger machen sollten, über seine Suchfunktion auf nicht einvernehmlich hergestellte Deepfake-Pornos zuzugreifen. Google zeigt keine Deepfake-Porno-Ergebnisse mehr an, wenn man nach dem Namen einer Person in Kombination mit Deepfake-Porno sucht; stattdessen werden sogenannte "nicht explizite Inhalte von hoher Qualität" angezeigt.
Das Konzept besteht darin, dass Nachrichtenartikel über die Beeinflussung eines bestimmten Prominenten durch Deepfake-Pornos oder dessen Verbindung zu Deepfake-Pornos erscheinen, wenn Sie nach Deepfake-Pornos mit diesem Prominenten suchen. Eine Art "Moral-Check" für zuverlässige Nachrichtenquellen.
Google hat Anfang 2024 Maßnahmen ergriffen, um die Sichtbarkeit von Deepfake-Pornos in der Suche zu verringern und die Werbung dafür durch Google Ads zu verbieten. Das Unternehmen behauptete, dass Opferüberlebende und Deepfake-Experten Beiträge lieferten, die es für die jüngsten Such-Upgrades verwendete.
"Dies sind wichtige Aktualisierungen unserer Schutzmaßnahmen für die Suche, aber es gibt noch mehr zu tun, um dieses Problem anzugehen, und wir werden weiterhin neue Wege finden, um Menschen zu helfen, die von diesen Inhalten betroffen sind. Google fortgesetzt.
