Onderzoekers wegen AI-risico’s af tegen nucleaire waarborgen en bedrijfsrichtlijnen

Naarmate de debatten over de mogelijke existentiële bedreigingen van kunstmatige intelligentie toenemen, bieden leiders uit het bedrijfsleven en onderzoeksinstellingen tegenstrijdige perspectieven op hoe acuut en ernstig deze gevaren zouden kunnen zijn. De discussie heeft vaart gekregen na steunbetuigingen van verschillende technologiebestuurders die hebben opgeroepen tot vertraging van de ontwikkeling van de technologie om veiligheid voorop te stellen, aldus SecurityWeek.

Aan de kant van de directe digitale bedreigingen bracht Anthropic CEO Dario Amodei deze maand een scherpe waarschuwing over de snelheid waarmee AI-mogelijkheden kunnen evolueren. Amodei voorspelde dat binnen enkele maanden een zwerm AI-agenten in staat zou kunnen zijn om het internet over te nemen via een botnet, een netwerk van bots die met malware aan elkaar zijn gekoppeld. Hij waarschuwde dat een dergelijke gebeurtenis potentieel miljarden dollars aan schade zou kunnen veroorzaken, en benadrukte daarmee de kwetsbaarheid van digitale infrastructuur voor autonome AI-systemen.

Niet alle catastrofale scenario’s worden echter als haalbaar beschouwd binnen de huidige technologische en regelgevende kaders. Een rapport van onderzoekers van RAND Corp. van vorig jaar concludeerde dat het momenteel niet mogelijk is voor AI om het gebruik van nucleaire wapens te veroorzaken. De onderzoekers schreven deze beperking toe aan strikte waarborgen die zijn ingebouwd in bestaande commando- en controlesystemen, wat suggereert dat menselijk toezicht een kritische barrière blijft tegen AI-gedreven nucleaire escalatie.

Ondertussen implementeren AI-ontwikkelaars actief technische barrières om misbruik in biologische contexten te voorkomen. Anthropic meldde dat zijn systemen een via zijn Claude-tool ingediend hulpverzoek over een onderzoeksvoorstel succesvol hebben geblokkeerd. Het voorstel streefde ernaar mutaties te versterken om het door muggen overgedragen chikungunyavirus geleidelijk schadelijker te maken, wat aantoont dat huidige veiligheidsprotocollen kunnen ingrijpen bij specifieke pogingen tot biologisch onderzoek met hoog risico.