Helaas maakte OpenAI snel korte metten met de hoop dat ze hun beleid ten aanzien van het genereren van NSFW met hun tools zouden versoepelen. Ze publiceerden woensdag een “Model Spec sheet” waarin de ethische gedragsverwachtingen voor hun systemen werden beschreven. Het maken van NSFW-inhoud kwam in n paragraaf ter sprake en er werd vermeld dat het bedrijf aan het onderzoeken was of het dergelijk gebruik “op verantwoorde wijze” kon toestaan. Dit werd snel breed uitgemeten in de mainstream media als OpenAI aan het nadenken was over het toestaan van AI-porno. Helaas lijkt het erop dat een vertegenwoordiger van OpenAI dit in een op donderdag verstuurde e-mail (vermoedelijk aan het tijdschrift Quartz) heeft uitgesloten.
An email from OpenAI on Thursday stated:
We have no intention of creating AI-generated pornography. We put the safety of children first and have robust measures in our products to avoid deepfakes, which are unacceptable. In addition, we believe it is crucial to thoroughly consider sexuality in discussions with people of all ages.
Daarom is het geen verrassing dat OpenAI heeft uitgesloten dat Sora in de toekomst wordt gebruikt om pornografische video’s te genereren.
Or does it? Decrypt.co claims that Jenna Jang, the product lead at OpenAI, informed them that the definition of porn varies widely.
Er ontstond echter bezorgdheid toen werd gesuggereerd dat OpenAI overwoog om de wetten voor de productie van pornografie te versoepelen. Een productleider van Open AI vertelt Decrypt dat het bedrijf achteraf gezien beter had moeten uitleggen wat het aan het “onderzoeken” was.
Joanna Jang, de productleider voor modelgedrag bij OpenAI, verklaarde: “Ik denk dat wat ik graag zou doen op basis van de feedback en de reactie, in de volgende versie die we delen-is preciezer zijn over wat sommige mensen verstaan onder NSFW-inhoud en de taxonomie hier.” Jang verduidelijkte dat NSFW kan verwijzen naar alles van deepfake afbeeldingen gemaakt door AI tot geschreven godslastering.
Wat betreft het soort inhoud dat onder een meer liberale definitie zou vallen, vertelde Jang aan NPR dat het “afhangt van je definitie van porno.”
Ze probeert echter duidelijk te maken dat OpenAI “absoluut niet bezig is met het maken van deepfakes of AI-porno,” en ze legt verder uit waarom het Model Spec Sheet zoveel controverse heeft veroorzaakt.
Volgens Jang heeft OpenAI de specificatie uitgebracht om optimaal gedrag van modellen te definiren, waarbij de nadruk ligt op naleving van de wet, het vermijden van NSFW-materiaal en het waarderen van openheid.
De vraag “Moet AI porno maken of niet?” werd al gesteld vr de modelspec, dus we willen meer subtiliteit toevoegen aan dit gesprek, aldus Jang. En ik hoop dat we dankzij de modelspec soortgelijke discussies in het echte leven kunnen voeren.
“Nogmaals, dit is de reden dat ik wou dat ik echt [een kader] had opgesteld, zodat we deze discussie zelfs een dag eerder hadden kunnen beginnen,
she continued.
Het lijkt me dus nog steeds behoorlijk ambigu. Ik denk dat we kunnen concluderen dat AI-porno ongetwijfeld verboden is, maar dat ChatGPT in de toekomst misschien meer vulgariteit mag gebruiken en het zou me niet verbazen als het “vrouwelijke erotica” produceert. Maar begin niet over porno!
Update: Reason magazine has an excellent article on this topic written by Elizabeth Nolan Brown. Click here to read it.
As in this situation, the solution is for regulators to step aside and allow a wide variety of AI products to become widely available. Then individuals with different levels of sensitivity can use the product or products that most closely match their requirements and ideals.
Op basis van gebeurtenissen in het verleden en de reacties van politieke figuren tot nu toe, lijkt het er echter op dat we ideen zullen krijgen die universeel toepasbaar zijn. Alles lijkt een voorwendsel voor een Very Important Congressional Hearing en tech-throttling wetgeving als je alleen maar morele paniek hebt.
As usual, those who use sex work and have already embraced AI technology will lose the most from this hysteria.
