Helaas maakte OpenAI snel korte metten met de hoop dat ze hun beleid ten aanzien van het genereren van NSFW met hun tools zouden versoepelen. Ze publiceerden woensdag een “Model Spec sheet” waarin de ethische gedragsverwachtingen voor hun systemen werden beschreven. Het maken van NSFW-inhoud kwam in één paragraaf ter sprake en er werd vermeld dat het bedrijf aan het onderzoeken was of het dergelijk gebruik “op verantwoorde wijze” kon toestaan. Dit werd snel breed uitgemeten in de mainstream media als OpenAI aan het nadenken was over het toestaan van AI-porno. Helaas lijkt het erop dat een vertegenwoordiger van OpenAI dit in een op donderdag verstuurde e-mail (vermoedelijk aan het tijdschrift Quartz) heeft uitgesloten.
In een e-mail van OpenAI van donderdag stond:
We hebben niet de intentie om AI-gegenereerde pornografie te maken. We stellen de veiligheid van kinderen voorop en hebben robuuste maatregelen in onze producten om deepfakes te vermijden, die onacceptabel zijn. Daarnaast denken we dat het cruciaal is om seksualiteit grondig te overwegen in discussies met mensen van alle leeftijden.
Daarom is het geen verrassing dat OpenAI heeft uitgesloten dat Sora in de toekomst wordt gebruikt om pornografische video’s te genereren.
Of toch niet? Decrypt.co beweert dat Jenna Jang, de product lead bij OpenAI, hen heeft laten weten dat de definitie van porno sterk varieert.
Er ontstond echter bezorgdheid toen werd gesuggereerd dat OpenAI overwoog om de wetten voor de productie van pornografie te versoepelen. Een productleider van Open AI vertelt Decrypt dat het bedrijf achteraf gezien beter had moeten uitleggen wat het aan het “onderzoeken” was.
Joanna Jang, de productleider voor modelgedrag bij OpenAI, verklaarde: “Ik denk dat wat ik graag zou doen op basis van de feedback en de reactie, in de volgende versie die we delen-is preciezer zijn over wat sommige mensen verstaan onder NSFW-inhoud en de taxonomie hier.” Jang verduidelijkte dat NSFW kan verwijzen naar alles van deepfake afbeeldingen gemaakt door AI tot geschreven godslastering.
Wat betreft het soort inhoud dat onder een meer liberale definitie zou vallen, vertelde Jang aan NPR dat het “afhangt van je definitie van porno.”
Ze probeert echter duidelijk te maken dat OpenAI “absoluut niet bezig is met het maken van deepfakes of AI-porno,” en ze legt verder uit waarom het Model Spec Sheet zoveel controverse heeft veroorzaakt.
Volgens Jang heeft OpenAI de specificatie uitgebracht om optimaal gedrag van modellen te definiëren, waarbij de nadruk ligt op naleving van de wet, het vermijden van NSFW-materiaal en het waarderen van openheid.
De vraag “Moet AI porno maken of niet?” werd al gesteld vóór de modelspec, dus we willen meer subtiliteit toevoegen aan dit gesprek, aldus Jang. En ik hoop dat we dankzij de modelspec soortgelijke discussies in het echte leven kunnen voeren.
“Nogmaals, dit is de reden dat ik wou dat ik echt [een kader] had opgesteld, zodat we deze discussie zelfs een dag eerder hadden kunnen beginnen,
vervolgde ze.
Het lijkt me dus nog steeds behoorlijk ambigu. Ik denk dat we kunnen concluderen dat AI-porno ongetwijfeld verboden is, maar dat ChatGPT in de toekomst misschien meer vulgariteit mag gebruiken en het zou me niet verbazen als het “vrouwelijke erotica” produceert. Maar begin niet over porno!
Update: Het tijdschrift Reason heeft een uitstekend artikel over dit onderwerp geschreven door Elizabeth Nolan Brown. Klik hier om het te lezen.
Net als in deze situatie is de oplossing dat regelgevers een stap opzij doen en een grote verscheidenheid aan AI-producten op grote schaal beschikbaar laten komen. Dan kunnen individuen met verschillende niveaus van gevoeligheid het product of de producten gebruiken die het meest overeenkomen met hun eisen en idealen.
Op basis van gebeurtenissen in het verleden en de reacties van politieke figuren tot nu toe, lijkt het er echter op dat we ideeën zullen krijgen die universeel toepasbaar zijn. Alles lijkt een voorwendsel voor een Very Important Congressional Hearing en tech-throttling wetgeving als je alleen maar morele paniek hebt.
Zoals gebruikelijk zullen degenen die seksarbeid gebruiken en AI-technologie al hebben omarmd het meest verliezen van deze hysterie.
