OpenAI introduceert onzichtbare watermark voor ChatGPT in de EU

OpenAI heeft aangekondigd dat het een onzichtbare watermark zal toevoegen aan tekst die door ChatGPT en Codex wordt gegenereerd, specifiek voor gebruikers in de Europese Unie. Deze maatregel is bedoeld om te voldoen aan de transparantieregels van de EU AI Act, die op 2 augustus in werking zijn getreden en vereisen dat AI-bedrijven AI-gegenereerde content markeren zodat andere systemen deze kunnen identificeren.

De watermark wordt de komende weken uitgerold voor alle ChatGPT- en Codex-gebruikers in de EU. Ontwikkelaars die gebruikmaken van de OpenAI API kunnen de watermark nu al inschakelen voor bepaalde modellen, maar deze functie is standaard uitgeschakeld. OpenAI heeft ervoor gekozen om de text watermarking niet als wereldwijde standaard in te voeren bij de lancering.

De watermark is geen zichtbaar symbool, maar werkt door subtiele aanpassingen in de woordkeuzes van het model, waardoor een patroon ontstaat dat niet door mensen kan worden gezien, maar wel door een detector kan worden opgemerkt. Dit betekent dat de watermark meereist met de tekst wanneer deze wordt gekopieerd en geplakt. OpenAI stelt dat de watermark geen gebruikersidentificatie mogelijk maakt en dat er geen significante verandering in de prestaties van de modellen is waargenomen met de watermark ingeschakeld.

OpenAI heeft ook een technisch rapport gepubliceerd over de methode, genaamd textGrain, dat samen met onderzoekers van de Universiteit van Pennsylvania en Yale is geschreven. Dit rapport legt uit hoe een geheime sleutel kan worden gebruikt om voorspellingen van het volgende woord te sorteren, wat helpt bij het detecteren van AI-gegenereerde content.

Het is mogelijk dat de watermark kan worden verwijderd door de tekst te bewerken, zoals blijkt uit tests waarbij het vervangen van 10% van de woorden met synoniemen de detectiegraad van ongeveer 92% naar 66% deed dalen. Korte passages en wiskundige antwoorden zijn bovendien moeilijker te detecteren. OpenAI heeft ervoor gekozen om de toegang tot de detector aanvankelijk te beperken tot goedgekeurde onderzoekers en organisaties om de betrouwbaarheid en verantwoord gebruik te evalueren.

Voor organisaties die AI gebruiken, is het belangrijk om te beseffen dat een ontbrekende watermark niet automatisch betekent dat de tekst door een mens is geschreven. Dit kan voortkomen uit een te korte tekst of te veel bewerking. De implementatie van watermarks kan de manier waarop AI-gegenereerde content wordt behandeld en geverifieerd in de toekomst aanzienlijk beïnvloeden.