Wat zijn de opties en waar moet je voorzichtig over zijn bij het gebruik van kunstmatige intelligentie door de staat? Jannine van den Berg, Division Director Prison and Foreign Guard Service Justice Facilities (DJI), topofficier, bespreekt haar ervaringen met gedragsherkenning, gedragsherkenning en celinspecties door een robothond.
Aan de operationele kant van een penitentiair apparaat (PI) is het niet de enige vorm van AI ondersteuning. Bijvoorbeeld, DJI centrale controlekamer werd gebruikt om camerabeelden te analyseren in openbare ruimtes zoals gangen en afdelingen. Vanwege het vermogen van de AI om gewelddadig gedrag (tussen gevangenen, tb’s, of werknemers) eerder te herkennen, kan DJI anticiperen. Om sneller en effectiever te kunnen werken, is er een ander voorbeeld. Daarnaast test DJI het spraak-tekstprogramma van een TNO-studieorganisatie.  ,
Sociaal contract
Mooie ontwikkelingen vindt Jannine. ‘Tegelijkertijd vraagt het gebruik van AI om de nodige zorgvuldigheid, vooral als het om privacy gaat. Inherent aan gevangenen en tbs’ers is dat zij minder privacy en autonomie hebben. Daardoor moet je ervoor waken dat hun privacy en autonomie niet in het gedrang komen. Bij een celinspectie met een robothond kunnen gevangenen of tbs’ers bijvoorbeeld niet een gesprek aangaan. Is het dan wel ethisch verantwoord dat er geen mens bij te pas komt? Omdat we meer van dit soort ethische vragen in beeld willen hebben, stellen we dit najaar ons algemeen ethisch beleid vast in een Sociaal contract.’
Het benadrukt dat alle AI programma’s van DJI vallen onder de” AI Act” of de AI Regulation onder de “Low Risk.” Dat is duidelijk. Zo kunnen we nu het verzoek van een gevangene om verlof met AI om de DJI medewerker te helpen evalueren. Maar uiteindelijk hebben we ervoor gekozen om de kans te vergroten. Daarom hebben we in samenwerking met onze CDO (Chef Data Officer), ethici van JenV, onze medewerkers van de Direct Information Service en de externe ontwikkelaar een controle uitgevoerd op de mensenrechten. We zijn tot de conclusie gekomen dat dit onder de categorie “hoge kans AI” zou kunnen vallen. Daarom hebben we het EU-bureau voor AI om een tweede oordeel gevraagd.
Spagaat
Ze stelt dat vaste voorzorgsmaatregelen ook problemen veroorzaken, zoals wanneer DJI vermeldt hoe AI het moeilijk kan maken om mensen te identificeren. Hoe realiseer je je dat je daarna de juiste persoon voor je hebt gevonden? Het is misschien niet zeker of stemmen en foto manipulaties werden gebruikt om ze te klonen. U wilt onmiddellijk naar een vraag luisteren en een antwoord geven. Er is echter een kans dat je het hart van bescherming mist als je heel snel handelt. We zullen de zenuwtrek zien.
Grenzen overwegen
Zij besluit,” denk ik eigenlijk dat we de grenzen van dat kijkveld kunnen opzoeken.” We kunnen niet voorzichtig genoeg zijn met Al. U volgt dus de waarheid.