Een advocaat in San Francisco heeft een rechtszaak aangespannen tegen zestien zogenaamde nudify websites en apps. Deze maken naar verluidt gebruik van kunstmatige intelligentie vom het creren van niet-consensuele deepfake content met echte vrouwen mogelijk te maken.
De aanklacht, die is ingediend tegen websites en apps met Amerikaanse en internationale adressen, is openbaar gemaakt door advocaat David Chiu. De websites worden beschuldigd van het schenden van de Unfair Competition Law van Californi, evenals staats- en federale wetten in de VS en Californi met betrekking tot deepfake, revenge en kindermisbruik content.
In de rechtszaak worden zestien websites of applicaties 50 niet-gedentificeerde personen genoemd. Naast de genoemde civielrechtelijke straffen eist de rechtszaak de sluiting van de websites en applicaties en de invoering van een gerechtelijk bevel om de eigenaars ervan te verbieden in de toekomst soortgelijke diensten te ontwikkelen.
Because the laws dealing with non-consensual AI deep-fake adult pornography evolve considerably slower than the technology itself, there are sometimes gray areas in the U.S. legal system surrounding this practice. Nevertheless, further anti-deepfake legislation was approved by the U.S. Senate in July 2024.
Defiance Act
Als de nieuwe Defiance Act wordt aangenomen als federale wet, hebben inwoners het recht om juridische stappen te ondernemen tegen iedereen die willens en wetens iets seksueel expliciets digitaal produceert, verspreidt of ontvangt zonder toestemming.
De wetten hebben geen gelijke tred gehouden met de verspreiding van deze beledigende inhoud, verklaarden de Amerikaanse wetgevers die de tweepartijdige Defiance Act naar de Senaat brengen. De Preventing Deepfakes of Intimate Images Act, die als doel had om het delen van niet-consensuele deepfake porno illegaal te maken, werd in 2023 gentroduceerd, wat voorafging aan de introductie van dit wetsvoorstel.
Volgens de rechtszaak in San Francisco produceren sommige van de zestien websites of applicaties die als gedaagden worden genoemd alleen deepfakes met volwassenen erin, maar kunnen andere worden gebruikt om deepfakes te maken met minderjarigen erin.
Are deepfakes going to be banned?
De advocaat van de rechtszaak, David Chiu, verklaarde dat de FBI het publiek heeft gewaarschuwd voor een toename in afpersingsschema’s met betrekking tot niet-consensuele AI-gegenereerde pornografie. Zoals met alle nieuwe technologien, verklaarde hij dat generatieve AI een enorme belofte inhoudt, maar dat er ook onbedoelde gevolgen zijn en criminelen die de nieuwe technologie willen uitbuiten.
Chiu vervolgde: We moeten allemaal een rol spelen in het neerhalen van slechte actoren die AI gebruiken om echte mensen, waaronder kinderen, te misbruiken en uit te buiten.
Non-consensual AI porn deepfakes
In fact, the topic of non-consensual AI porn deepfakes gained attention in 2024, especially since a number of female celebrities discovered that pornographic deepfakes of them were shared online without their knowledge or approval.
Google heeft onlangs zijn functionaliteit aangepast en resultaten voor deepfake naaktfoto’s uitgesloten van zijn primaire zoekmachine. In plaats van het daadwerkelijk tonen van deepfake naakt, wil het bedrijf nu zijn zoekmachine gebruiken om verifieerbare nieuwsberichten over de effecten van deepfake porno te promoten.
Other countries outside the US are also taking strict measures against non-voluntary deep-fake pornography. In England and Wales, the production of such things will soon be banned.
Italian Prime Minister Giorgia Meloni has filed a defamation lawsuit against two individuals for allegedly creating deepfake pornography featuring an altered version of her.
