Een advocaat in San Francisco heeft een rechtszaak aangespannen tegen zestien zogenaamde “nudify” websites en apps. Deze maken naar verluidt gebruik van kunstmatige intelligentie vom het creëren van niet-consensuele deepfake content met echte vrouwen mogelijk te maken.
De aanklacht, die is ingediend tegen websites en apps met Amerikaanse en internationale adressen, is openbaar gemaakt door advocaat David Chiu. De websites worden beschuldigd van het schenden van de Unfair Competition Law van Californië, evenals staats- en federale wetten in de VS en Californië met betrekking tot deepfake, revenge en kindermisbruik content.
In de rechtszaak worden zestien websites of applicaties 50 niet-geïdentificeerde personen genoemd. Naast de genoemde civielrechtelijke straffen eist de rechtszaak de sluiting van de websites en applicaties en de invoering van een gerechtelijk bevel om de eigenaars ervan te verbieden in de toekomst soortgelijke diensten te ontwikkelen.
Omdat de wetten die betrekking hebben op niet-consensuele AI deepfake pornografie van volwassenen aanzienlijk langzamer evolueren dan de technologie zelf, zijn er soms grijze gebieden in het Amerikaanse rechtssysteem rond deze praktijk. Desalniettemin werd in juli 2024 verdere anti-deepfake wetgeving goedgekeurd door de Amerikaanse Senaat.
Defiance Act
Als de nieuwe Defiance Act wordt aangenomen als federale wet, hebben inwoners het recht om juridische stappen te ondernemen tegen iedereen die “willens en wetens iets seksueel expliciets digitaal produceert, verspreidt of ontvangt” zonder toestemming.
“De wetten hebben geen gelijke tred gehouden met de verspreiding van deze beledigende inhoud,” verklaarden de Amerikaanse wetgevers die de tweepartijdige Defiance Act naar de Senaat brengen. De Preventing Deepfakes of Intimate Images Act, die als doel had om het delen van niet-consensuele deepfake porno illegaal te maken, werd in 2023 geïntroduceerd, wat voorafging aan de introductie van dit wetsvoorstel.
Volgens de rechtszaak in San Francisco produceren sommige van de zestien websites of applicaties die als gedaagden worden genoemd “alleen” deepfakes met volwassenen erin, maar kunnen andere worden gebruikt om deepfakes te maken met minderjarigen erin.
Gaan deepfakes verboden worden?
De advocaat van de rechtszaak, David Chiu, verklaarde dat de FBI het publiek heeft gewaarschuwd voor een toename in afpersingsschema’s met betrekking tot niet-consensuele AI-gegenereerde pornografie. Zoals met alle nieuwe technologieën, verklaarde hij dat “generatieve AI een enorme belofte inhoudt, maar dat er ook onbedoelde gevolgen zijn en criminelen die de nieuwe technologie willen uitbuiten”.
Chiu vervolgde: “We moeten allemaal een rol spelen in het neerhalen van slechte actoren die AI gebruiken om echte mensen, waaronder kinderen, te misbruiken en uit te buiten.”
Niet-consensuele AI porno deepfakes
In feite heeft het onderwerp van niet-consensuele AI porno deepfakes in 2024 aandacht gekregen, vooral omdat een aantal vrouwelijke beroemdheden ontdekte dat pornografische deepfakes van hen online werden gedeeld zonder hun medeweten of goedkeuring.
Google heeft onlangs zijn functionaliteit aangepast en resultaten voor deepfake naaktfoto’s uitgesloten van zijn primaire zoekmachine. In plaats van het daadwerkelijk tonen van deepfake naakt, wil het bedrijf nu zijn zoekmachine gebruiken om verifieerbare nieuwsberichten over de effecten van deepfake porno te promoten.
Ook andere landen buiten de VS nemen strenge maatregelen tegen niet-vrijwillige deepfake pornografie. In Engeland en Wales wordt het produceren van zulke dingen binnenkort verboden.
De Italiaanse premier Giorgia Meloni heeft een rechtszaak wegens smaad aangespannen tegen twee personen omdat ze deepfake pornografie zouden hebben gemaakt met een veranderde versie van haar.
