Google’s anti-deepfake Search tools worden steeds bedrevener in het verbergen van resultaten en het verwijderen van afbeeldingen.
Google has increased the impact of removing deepfake porn at the request of the individuals featured in it and changed the core search function to make it harder to find non-consensual content.
Recente vooruitgang in generatieve AI heeft geleid tot een snelle toename van realistische deepfake pornografische films en foto’s die online zijn verschenen zonder medeweten van de betrokkenen. Niet alleen kan deepfake content erg ongemakkelijk zijn voor betrokkenen maar het kan ook illegaal worden gebruikt voor zaken als financile afpersing
Google’s nieuwste offensief is gericht op het verwijderen van afbeeldingen, naast het verspreiden van informatie over de schade die wordt veroorzaakt door deepfake porno. Gebruikers kunnen Google al vragen om een vermeende deepfake afbeelding van zichzelf uit de zoekresultaten te verwijderen; als de verwijdering wordt geaccepteerd, zal de zoekmachine nu proberen om alle expliciete resultaten uit te sluiten van zoekopdrachten die betrekking hebben op de gebruiker.
In addition, if an alleged deepfake image is successfully removed, Google's systems will now search for duplicates of that image and remove any duplicates found.
Theoretically, this will lead to a much more powerful deepfake removal system expanding Google's removal network. Google stated: “Deze initiatieven zijn bedoeld om mensen extra gemoedsrust te geven, vooral als ze zich zorgen maken dat er in de toekomst soortgelijke inhoud over hen verschijnt.”
Daarnaast heeft Google aanpassingen gedaan die het over het algemeen moeilijker moeten maken om toegang te krijgen tot niet-consensuele deepfake porno via de zoekfunctie. Google geeft niet langer deepfake pornoresultaten als je zoekt naar iemands naam in combinatie met deepfake porno; in plaats daarvan toont het wat het noemt “niet-expliciete inhoud van hoge kwaliteit”.
Het concept is dat nieuwsartikelen over hoe een bepaalde beroemdheid is benvloed door of verbonden is met deepfake porno kunnen verschijnen als je zoekt naar deepfake porno waarin die beroemdheid voorkomt. Een soort “morele controle” van betrouwbare nieuwsbronnen.
Google took action earlier in 2024 to reduce the visibility of deepfake porn in searches and banned Google Ads from promoting it. The company claimed victim survivors and deepfake experts provided input it used to inform the latest Search upgrades.
“Dit zijn belangrijke updates voor onze beveiligingen op Search, maar er is meer werk te doen om dit probleem aan te pakken en we zullen nieuwe manieren blijven bedenken om mensen te helpen die door deze inhoud worden getroffen,” continued Google.
