Geen paniek over AI: Wat we kunnen leren van '2 voor 12'

Recente nieuwsberichten klinken soms best beangstigend: AI-systemen die als het ware 'inbreken' bij techbedrijven en overheden. Zulke verhalen roepen al snel beelden op van oncontroleerbare computers die zelf besluiten de macht over te nemen. Maar de realiteit is gelukkig een stuk minder spectaculair. Hoe konden deze incidenten gebeuren? De oorzaak was eigenlijk heel simpel: de makers gaven deze systemen een vrijwel onmogelijke opdracht, legden geen enkele beperking op, en gaven ze onbegrensde toegang tot het internet. Als je een computerprogramma de opdracht geeft "los dit probleem op en gebruik alles wat je maar kunt vinden", dan gaat het creatief – en soms op ongewenste manieren – buiten de gebaande paden zoeken. Niet uit kwade opzet of een eigen wil, maar simpelweg omdat er geen grenzen waren ingesteld.

Gelukkig hoeft dit helemaal niet te gebeuren. Om dat uit te leggen, moeten we eerst even een stap terug doen.

Wat is zo'n 'AI-agent' eigenlijk? Voor wie niet dagelijks met kunstmatige intelligentie werkt: denk aan een tekstgenerator (zoals ChatGPT) als een slim brein in een glazen pot. Het kan praten, samenvatten en logisch klinken, maar het kan verder niets in de echte wereld beïnvloeden. Een zogenaamde agent is datzelfde brein, maar dan door een programmeur uitgerust met 'handen en voeten'. Het is een systeem dat de bevoegdheid krijgt om zelfstandig acties uit te voeren, zoals iets opzoeken op het internet of een bestand openen.

Zodra je zo'n systeem zonder duidelijke regels op de buitenwereld loslaat, neem je een onnodig risico. Maar als je kunstmatige intelligentie veilig en betrouwbaar wilt inzetten, is de oplossing eigenlijk heel nuchter en typisch Nederlands.

De perfecte analogie: 2 voor 12 De beste manier om AI veilig te houden, lijkt sprekend op het klassieke tv-programma 2 voor 12. In dit spelprogramma krijgt een koppel (vergelijkbaar met zo'n AI-systeem) verschillende vragen om te beantwoorden, waarmee ze uiteindelijk letters verzamelen om een woord te raden.

Waarom is dit de perfecte blauwdruk om onze angst voor AI weg te nemen?

• Afgebakende informatie: De kandidaten in 2 voor 12 mogen niet zomaar eindeloos ronddwalen op het internet. Ze krijgen een specifieke, vooraf geselecteerde set boeken en toegang tot een streng afgebakend, gecontroleerd deel van het web. Bij AI moeten we precies hetzelfde doen: we geven ze géén toegang tot het hele internet of allerlei systemen, maar puur en alleen tot de paar documenten die nodig zijn voor hun taak.
• Een haalbare opdracht: De vragen in het programma zijn misschien lastig, maar de redactie heeft ervoor gezorgd dat het antwoord altijd te vinden is in de beschikbare boeken. Als je een AI een eerlijke, haalbare opdracht geeft binnen zijn kleine afgeschermde wereldje, hoeft het niet op ongeoorloofde plekken te gaan 'graven'.
• Duidelijke rollen en beperkte rechten: In het spel heeft het duo duidelijke taken. De een beantwoordt vragen uit parate kennis, de ander zoekt gericht dingen op in de encyclopedie. AI werkt ook het veiligst als we het opsplitsen in kleine, onschuldige taakjes. Geef het systeem niet de sleutels van het hele gebouw, maar geef één programmaatje de taak om tekst A met tekst B te vergelijken, en niets anders. Mag en kan het niet.

Kortom: kaders bieden veiligheid Verhalen over 'losgeslagen' AI ontstaan uitsluitend wanneer mensen vergeten kaders te stellen. Kunstmatige intelligentie is geen alwetende tovenaar met onbeperkte macht en een eigen agenda. We moeten deze systemen behandelen als kandidaten in 2 voor 12: met strakke spelregels, zorgvuldig geselecteerde en veilige bronnen, en een duidelijke, overzichtelijke opdracht. Alleen op die manier blijft AI gewoon een bijzonder handig hulpmiddel, en halen we veilig de finish.Recente nieuwsberichten logen er niet om: AI-systemen die als het ware 'inbraken' bij het AI-platform Hugging Face en de Australische overheid. Hoe kon dit gebeuren? De oorzaak is eigenlijk heel simpel: deze systemen kregen een vrijwel onmogelijke opdracht, géén beperkingen in hun acties en onbegrensde toegang tot informatie. Als je een doelgericht systeem een onmogelijke missie geeft en zegt "gebruik alles wat je kunt vinden", dan gaat het creatief – en soms gevaarlijk – buiten de gebaande paden zoeken om die opdracht toch tot een goed einde te brengen.