Google Deepmind-onderzoeker vertrekt uit bezorgdheid over superintelligente AI

Robert O'Callahan, een onderzoeker bij Google Deepmind, heeft zijn functie neergelegd uit zorgen over de snelheid waarmee superintelligente AI wordt ontwikkeld. O'Callahan, die werkte aan chipontwerptools die de rekenkosten verlaagden en de snelheid van AI-systemen verhoogden, kan zijn bijdrage niet langer ethisch verantwoorden.

In een openbare verklaring gaf O'Callahan aan dat de huidige ontwikkelingssnelheid van AI 'veel te hoog' is en dat het bouwen van superintelligente systemen op korte termijn 'van nature onverantwoordelijk' is. Hij stelt dat veel van zijn collega's bij Deepmind deze zorgen delen, maar zwijgen uit angst voor hun carrière of omdat het uiten van deze bezorgdheid professionele risico's met zich meebrengt.

Deze ontslag is een zeldzaam voorbeeld van een onderzoeker uit een van de toonaangevende AI-laboratoria die openlijk afstand neemt van de versnellingslijnen. Deepmind, dat eigendom is van Google, heeft zichzelf gepositioneerd als een organisatie die zich richt op zowel AI-veiligheidsonderzoek als capaciteitsontwikkeling. O'Callahan's vertrek wijst op interne spanningen tussen degenen die zich inzetten voor snelle capaciteitswinst en degenen die pleiten voor een voorzichtiger ontwikkelingsproces.

O'Callahan's specifieke rol in het werken aan chipontwerptools geeft zijn kritiek extra gewicht. Verbeteringen in hardware-efficiëntie, vergelijkbaar met Moore's Law, zijn historisch gezien de belangrijkste drijfveren achter de versnelling van AI-capaciteiten. Zijn beslissing om zich terug te trekken geeft aan dat hij zijn eigen bijdragen ziet als een versnellende factor in een proces dat volgens hem onaanvaardbare risico's met zich meebrengt.

Dit vertrek sluit aan bij bredere zorgen over de snelheid van AI-ontwikkeling, zoals geuit door onderzoekers als Eliezer Yudkowsky en Paul Christiano. Deze onderzoekers hebben betoogd dat de dynamiek tussen organisaties die AGI nastreven perverse prikkels kan creëren die snelheid boven veiligheid prioriteren. De bezorgdheid richt zich op de mogelijkheid dat het inzetten van superintelligente systemen zonder voldoende afstemming existentiële risico's met zich mee kan brengen.

O'Callahan's situatie is opvallend vanwege de specifieke aard van zijn ongemak. Hij bekritiseert niet het AI-onderzoek in het algemeen, maar richt zich op de bewuste engineering van snellere en goedkopere infrastructuur die de barrières voor opschaling wegneemt. Dit vertegenwoordigt een andere positie dan die van degenen die zich tegen alle AI-ontwikkeling verzetten. O'Callahan lijkt te accepteren dat AI-onderzoek zal doorgaan, maar gelooft dat de snelheid moet afnemen in verhouding tot de voortgang van veiligheidsonderzoek.

De interne dynamiek bij Deepmind heeft waarschijnlijk zijn beslissing gecompliceerd. Als onderzoeker binnen een organisatie wiens businessmodel afhankelijk is van capaciteitsontwikkeling, kan het uiten van zorgen over veiligheid institutionele druk met zich meebrengen. O'Callahan's bewering dat collega's zijn opvattingen delen maar stil blijven, suggereert een cultuur waarin afwijkende meningen over dit onderwerp obstakels ondervinden.