Existentieel risico door kunstmatige intelligentie

Het existentiële risico door kunstmatige intelligentie verwijst naar het idee dat grote vooruitgang in kunstmatige algemene intelligentie (AGI) zou kunnen leiden tot het uitsterven van de mensheid of een onomkeerbare wereldwijde catastrofe.

Eén argument voor het belang van dit risico verwijst naar de manier waarop mensen andere soorten domineren, omdat het menselijk brein over specifieke capaciteiten beschikt die andere dieren niet hebben. Als kunstmatige intelligentie (AI) de menselijke intelligentie zou overtreffen en superintelligent zou worden, zou het oncontroleerbaar kunnen worden. Net zoals het lot van de berggorilla afhangt van de goede wil van de mens, zou het lot van de mensheid kunnen afhangen van de acties van een toekomstige machinale superintelligentie.

Onderzoek

Er wordt veel gediscussieerd over de aannemelijkheid van een existentiële catastrofe als gevolg van AI. Dit hangt deels af van de vraag of AGI of superintelligentie haalbaar zijn, de snelheid waarmee gevaarlijke vaardigheden en gedragingen ontstaan en of er praktische scenario's voor AI-overnames bestaan.

Computerwetenschappers, onder meer Geoffrey Hinton, Yoshua Bengio, Alan Turing en Karen Hao waarschuwden al voor de hoge risico’s van AI. Ook technologie-CEO's zoals Elon Musk en OpenAI-CEO Sam Altman hebben hun zorgen over superintelligentie geuit.

Uit een enquête onder AI-onderzoekers uit 2022 met een responspercentage van 17% bleek dat de meerderheid geloofde dat er een kans van 10 procent of meer bestaat dat het onvermogen van de mens om AI te controleren een existentiële catastrofe zal veroorzaken. In 2023 ondertekenden honderden AI-experts en andere vooraanstaande figuren een verklaring waarin werd gezegd dat "het beperken van het risico van uitsterven door AI een mondiale prioriteit zou moeten zijn, naast andere risico's op maatschappelijke schaal, zoals pandemieën en een kernoorlog".