Geoffrey Hinton, wereldwijd erkend als een van de grondleggers van kunstmatige intelligentie en vaak omschreven als de Godfather of AI, heeft opnieuw zijn diepe zorgen geuit over de razendsnelle ontwikkeling van intelligente systemen.
In een indringend interview met de Amerikaanse zender CBS verklaarde hij dat hij “eigenlijk wel opgelucht” is dat hij inmiddels 77 jaar oud is. Die leeftijd maakt de kans kleiner dat hij nog getuige zal zijn van wat hij ziet als potentieel rampzalige gevolgen van door AI aangedreven technologische ontwikkelingen.
Volgens Hinton ontwikkelt kunstmatige intelligentie zich niet alleen sneller dan deskundigen hadden voorspeld, maar begint de technologie ook kenmerken te vertonen die wijzen op een toenemende zelfstandigheid en potentieel gevaar. In zijn woorden: “We voeden een tijger op.” Hij gebruikte deze metafoor om te illustreren hoe AI-systemen nu nog onschuldig kunnen lijken, net als een schattige tijgerwelp, maar dat we ons ernstig zorgen moeten maken over wat er gebeurt wanneer deze systemen volwassen en krachtig worden. “Als je niet zeker weet of hij je straks niet opeet, dan moet je oppassen,” aldus Hinton.
Kans op verlies van controle niet te negeren
Hinton schat dat er een kans van ongeveer 10 tot 20 procent is dat kunstmatige intelligentie op een dag zodanig geëvolueerd zal zijn, dat ze in staat is om controle over te nemen van menselijke samenlevingen. Hoewel hij erkent dat deze inschatting met grote onzekerheden is omgeven, benadrukt hij dat zelfs een kleine kans op zulk een scenario serieus genomen moet worden.
Wat Hinton vooral zorgen baart, is de opkomst van zogeheten AI-agents. Dat zijn systemen die zelfstandig en autonoom opereren, zonder menselijke tussenkomst. In theorie kunnen deze agents zelfstandig doelen formuleren en uitvoeren, wat de deur opent naar ongecontroleerde en mogelijk destructieve acties. "We zijn nu op een punt beland waar de dreiging reëler aanvoelt dan ooit tevoren," aldus Hinton. “De vooruitgang op dit gebied gaat zó snel, dat we ons ernstig moeten afvragen of we deze ontwikkelingen nog wel kunnen bijbenen.”
Van twintig jaar naar tien: superintelligentie dichterbij dan gedacht
Waar Hinton vorig jaar nog inschatte dat het zeker twee decennia zou duren voordat AI-systemen op alle vlakken intelligenter dan mensen zouden worden, ziet hij die tijdlijn inmiddels veel kritischer in. Door de explosieve groei in rekenkracht, algoritmische verfijning en commerciële investeringen, denkt hij nu dat dit mogelijk al binnen tien jaar realiteit kan zijn. “Dat is niet zomaar een wilde gok. Er zijn inmiddels voldoende aanwijzingen dat de technologie zich sneller ontwikkelt dan onze samenleving er op is voorbereid,” waarschuwt hij.
Volgens Hinton is het bovendien zeer onwaarschijnlijk dat de mensheid zichzelf zal beperken in het najagen van steeds geavanceerdere AI-technologie. Zowel landen als techbedrijven bevinden zich in een constante race om de nieuwste innovaties te ontwikkelen, vaak zonder voldoende aandacht voor ethische of maatschappelijke implicaties. “Iedereen jaagt op het volgende grote technologische wonder,” stelt Hinton. “Maar de echte vraag is: kunnen we die ontwikkeling zo sturen dat het systeem nooit de behoefte krijgt om de macht over te nemen?”
Teleurstelling in Big Tech
Naast zijn inhoudelijke zorgen over de technologie zelf, uitte Hinton ook zijn onvrede over de houding van de grote technologiebedrijven waarmee hij decennialang samenwerkte. Vooral zijn voormalige werkgever Google moet het ontgelden. Ooit geprezen om zijn ethische standpunten over het gebruik van AI, heeft het bedrijf volgens Hinton inmiddels veel van zijn principes losgelaten — met name op het gebied van militaire toepassingen van kunstmatige intelligentie. “Ik zou nu niet meer voor ze willen werken,” zei Hinton ronduit, verwijzend naar het terugdraaien van Google’s oorspronkelijke belofte om AI niet voor oorlogsdoeleinden in te zetten.
In 2023 verliet Hinton zijn functie bij Google, juist om zich vrijuit te kunnen uitspreken over de risico’s van kunstmatige intelligentie. Sindsdien waarschuwt hij actief voor de mogelijkheid dat AI-systemen, zodra ze slimmer zijn dan mensen, deze ook kunnen manipuleren — en daarmee mogelijk onherstelbare schade aanrichten aan onze manier van leven. “Alles wat slimmer is dan jij, heeft ook de potentie om jou te misleiden of te domineren,” aldus Hinton.
Een ongemakkelijke toekomst
De woorden van Geoffrey Hinton zijn niet zomaar een doemscenario van een bezorgde wetenschapper. Ze komen van een man die decennialang aan de wieg stond van AI en die de fundamenten legde voor de technologieën die nu wereldwijd worden toegepast. Zijn waarschuwing is helder: als we nu geen actie ondernemen om AI op een verantwoorde manier te reguleren en in goede banen te leiden, dan kan het te laat zijn tegen de tijd dat we beseffen wat we hebben losgelaten.
