Scott Wiener wil AI-regulering op federaal niveau bevorderen

Scott Wiener, de nieuwe congreslid voor het openstaande zetel van Nancy Pelosi in San Francisco, heeft zich gecommitteerd aan het reguleren van kunstmatige intelligentie (AI). Tijdens een recente interview benadrukte hij de urgentie van het reguleren van AI, vooral na een rapport van de AI-nonprofit METR dat suggereert dat het bedrijf Anthropic mogelijk een fenomeen van 'recursive self-improvement' heeft bereikt. Dit houdt in dat AI systemen zichzelf verder kan verbeteren, wat risico's met zich meebrengt voor de controle over deze technologie.

Wiener heeft in het verleden al invloed uitgeoefend op AI-beleid, zoals met zijn wetgeving SB 1047, die werd afgewezen door de gouverneur van Californië, maar die wel heeft geleid tot andere wetgeving die door de staat is aangenomen. Hij heeft ook een sterke band met de AI-regulering beweging en is van mening dat er snel actie ondernomen moet worden om een potentiële catastrofe te vermijden.

In zijn visie is het cruciaal dat er een krachtige federale toezichthouder voor AI komt, zoals voorgesteld door zijn collega Ro Khanna. Hij pleit voor maatregelen zoals bescherming voor klokkenluiders, test- en auditvereisten, en de implementatie van een 'kill switch' voor AI-systemen. Dit alles moet ervoor zorgen dat het publiek betrokken is bij de ontwikkelingen en de risico's van AI goed begrijpt.

Wiener is echter voorzichtig optimistisch over de mogelijkheden van het Congres om AI effectief te reguleren, gezien de tegenstrijdige opvattingen binnen de politiek en de uitdagingen van het huidige politieke klimaat. Hij wijst op de noodzaak van samenwerking, ook met andere landen, om de risico's van AI te beheersen.

Voor organisaties die met AI werken, betekent dit dat ze zich moeten voorbereiden op strengere regelgeving en mogelijk nieuwe vereisten voor compliance. Het is belangrijk om nu al na te denken over hoe ze hun AI-toepassingen kunnen afstemmen op de opkomende wetgeving, vooral als het gaat om transparantie en verantwoordingsplicht.