EUROPESE AI EISEN
De Europese eisen van de Verordening op de Kunstmatige Intelligentie.
VERORDENING OP DE KUNSTMATIGE INTELLIGENTIE
Samenvatting van de verplichtingen van de Europese Verordening op de Kunstmatige Intelligentie.
SYSTEEM VOOR RISICOBEHEER
1. ZORG VOOR HET OPZETTEN, IMPLEMENTEREN, DOCUMENTEREN EN ONDERHOUDEN VAN EEN RISICOMANAGEMENTSYSTEEM
Coomple is een kant en klaar risicomanagementsysteem waarmee je direct aan de slag kan. Aan de hand van de inhoudelijke eisen van de nieuwe EU-regels is voor iedere processtap een handige checklist gemaakt. Zo weet je bij iedere fase, van ontwikkeling tot gebruik, wat je moet doen en leg je alle informatie op de juiste manier vast. Zo voldoe je altijd aan de Europese eisen.
2. ZORG VOOR EEN CONTINU ITERATIEF RISICOMANAGEMENTPROCES GEDURENDE DE HELE LEVENSCYCLUS VAN HET KI-SYSTEEM
Met Coomple doorloop je eenvoudig het hele proces. De voortgang van het proces is op ieder moment inzichtelijk en kan steeds worden herhaald. Daarbij zorgt Coomple voor inhoudelijke ondersteuning bij het doorlopen van de processtappen. Zo weet je op ieder moment wat je moet doen. Slimme checklisten met achtergrond informatie helpen je bij het doorlopen van het proces en leggen alle data op de juiste manier vast. Kennis is op die manier altijd beschikbaar en je kan steeds aantonen dat je aan alle EU-eisen voldoet.
3. HOUDT REKENING HOUDEN MET EFFECTEN VAN GECOMBINEERDE TOEPASSING EN DE STAND DER TECHNIEK
Coomple zorgt voor inhoudelijke checklisten met achtergrond informatie waarmee je de risicobeheersmaatregelen vastlegt. Coomple houdt deze content bij en samen met de community houdt Coomple bij welke maatregelen gangbaar zijn en hoe die zijn toe te passen. Door de koppeling met het open platform Lawcat.nl wordt actief kennis uitgewisseld die gebruikers direct kunnen toepassen in het risicomanagementproces.
4. ZORG ERVOOR DAT EVENTUELE RESTRISICO'S BIJ BEOOGD GEBRUIK AANVAARDBAAR ZIJN
Risicobeheersmaatregelen zijn zodanig dat elk restrisico dat aan elk gevaar is verbonden, evenals het algehele restrisico van de risicovolle KI-systemen, aanvaardbaar wordt geacht, op voorwaarde dat de hoogrisico-AI systeem wordt gebruikt in overeenstemming met het beoogde doel of onder omstandigheden van redelijkerwijs te verwachten misbruik. Die restrisico's worden aan de gebruiker meegedeeld. Bij het bepalen van de meest geschikte risicobeheersmaatregelen wordt voor het volgende gezorgd:
(a) risico's zoveel mogelijk elimineren of verminderen door adequaat ontwerp en ontwikkeling;
(b) in voorkomend geval, uitvoering van passende mitigerende en controlemaatregelen met betrekking tot risico's die niet kunnen worden uitgesloten;
(c) het verstrekken van passende informatie overeenkomstig artikel 13, met name wat betreft de risico's bedoeld in lid 2, onder b), van dit artikel, en, waar passend, opleiding van gebruikers. Bij het elimineren of verminderen van risico's die verband houden met het gebruik van het risicovolle KI-systeem, moet terdege rekening worden gehouden met de technische kennis, ervaring, opleiding en training die de gebruiker kan verwachten en de omgeving waarin het systeem zal worden gebruikt.
5. KI-SYSTEMEN WORDEN VOLDOENDE GETEST OP BASIS VAN GESCHIKTE TESTPROCEDURES
KI-systemen met een hoog risico worden getest om de meest geschikte risicobeheersmaatregelen te identificeren. Tests zorgen ervoor dat KI-systemen met een hoog risico consistent presteren voor het beoogde doel en voldoen aan de vereisten van dit hoofdstuk.
Testprocedures moeten geschikt zijn om het beoogde doel van het KI-systeem te bereiken en hoeven niet verder te gaan dan nodig is om dat doel te bereiken.
Het testen van de risicovolle KI-systemen wordt, naargelang het geval, op elk moment tijdens het ontwikkelingsproces en in ieder geval voorafgaand aan het op de markt brengen of in gebruik nemen uitgevoerd. Er worden tests uitgevoerd aan de hand van voorlopig gedefinieerde maatstaven en probabilistische drempels die geschikt zijn voor het beoogde doel van het risicovolle KI-systeem.
6. LEG RISICO’S VOOR MINDERJARIGEN VAST
Bij de implementatie van het in de leden 1 tot en met 7 beschreven risicobeheersysteem wordt specifiek overwogen of het risicovolle KI-systeem waarschijnlijk zal worden betreden door of gevolgen zal hebben voor kinderen.