Het AI Kompas is een samenwerking van NPO, NLPO en RPO.
Het AI Kompas: een hulpmiddel om een bewuste keuze te maken over de inzet van een AI-tool
De afgelopen vijf maanden heb ik op basis van wetenschappelijk onderzoek, bestaande AI-richtlijnen en hulpmiddelen van (internationale) media-organisaties en gesprekken met experts en stakeholders een AI Kompas ontwikkeld. Dit hulpmiddel kan de redacties van publieke omroepen op elk niveau, van lokaal tot landelijk, helpen om een bewuste keuze te maken over de inzet van een AI-tool.
Ik noem het AI Kompas een hulpmiddel en dat is niet voor niets. Het kompas geeft richting, zoals een kompas hoort te doen, maar zegt niet of iets wel of niet mag. Het zorgt voor bewustwording en waarschuwt soms, maar de keuze is aan de gebruiker van het AI Kompas.
Het kompas is dan ook geen absolute wetenschap. Sterker nog: in de praktijk bleek, ook na workshops met potentiële gebruikers, dat de wetenschappelijke theorie verder moest worden versimpeld om het kompas bruikbaar te maken. Daarnaast werkt een systeem als dit alleen door dingen kwantificeerbaar te maken, terwijl bij de beslissing over de inzet van een AI-tool juist allerlei factoren meespelen die moeilijk kwantificeerbaar zijn. Daar komt bij dat je bij het maken van zo’n beslissing vragen moet beantwoorden waar je het antwoord niet op weet en het antwoord ook niet makkelijk te vinden is.
Wat dat betreft is het uiteindelijke AI Kompas een compromis, maar wel een compromis dat ervoor zorgt om iets wat anders niet haalbaar was mogelijk te maken: iemand die geen expert is op het gebied van technologie en/of kunstmatige intelligentie de handvatten geven om een onderbouwde beslissing te maken over de inzet van een AI-tool op een redactie.
Het AI Kompas bestaat in de basis uit een reeks vragen die je als gebruiker beantwoordt en die vervolgens een resultaat opleveren, dat bestaat uit toelichtingen, tips en waarschuwingen over alle facetten die komen kijken bij de eventuele inzet van de AI-tool. Het resultaat is afhankelijk van de toepassing waarvoor de gebruiker de AI-tool wil inzetten.
Het resultaat is een eenvoudig hulpmiddel.
Elger van der Wel, januari 2025
Klik hier om het AI Kompas te starten.
Werking AI Kompas
Het AI Kompas bestaat uit elf meerkeuzevragen over de AI-tool en de toepassing waar de gebruiker hem voor wil inzetten. Afhankelijk van die toepassing en de antwoorden op vragen over de hoeveelheid controle die de gebruiker heeft over het resultaat dat de tool oplevert, worden bepaalde risiconiveaus vastgesteld. Vervolgens worden, op basis van de antwoorden op de overige vragen in combinatie met deze risiconiveaus, opmerkingen verzameld. Deze opmerkingen hebben ook allemaal een stoplichtkleur om in één oogopslag duidelijk te kunnen scannen hoe de tool uit het kompas komt.
Het eindresultaat bestaat uit een lijst van opmerkingen die ook makkelijk gedeeld kan worden en aangevuld kan worden met een algemene stoplichtkleur als een soort samenvatting (zie ook de uitleg over de implementatie).
In de lijst opmerkingen die het AI Kompas oplevert komen alle facetten terecht die meegenomen dienen te worden in de beslissing of je een AI-tool inzet:
- In hoeverre de toepassing bestaat uit het proces mens-machine-mens en hoeveel invloed de mens dan heeft op het resultaat.
- Het risico op hallucinaties van een AI-model.
- Het risico op bias van een AI-model.
- De privacyrisico’s (AVG).
- Security– en compliance-risico’s.
- Of de AI-tool wordt gebruikt om mensen te vervangen.
- De impact op bestaande processen en systemen binnen de organisatie.
- Het energiegebruik van de AI-tool (duurzaamheid).
- De kosten van het gebruik van de tool en vooral het risico dat deze bij groeiend gebruik sterk oplopen.