05-04-2024

In de zomer van 2023 heeft het Europees Parlement de AI Act aangenomen. Deze Europese wet stelt strenge voorschriften vast voor zowel ontwikkelaars als gebruikers van AI, met als doel de bescherming van de rechten van Europese burgers te waarborgen.

De aanleiding voor de AI Act

De AI Act is ontstaan vanuit de groeiende impact van kunstmatige intelligentie (AI) op diverse sectoren en de maatschappij als geheel. De snelle vooruitgang van AI technologieën heeft geleid tot toenemende zorgen over ethiek, transparantie en de bescherming van fundamentele rechten. Als reactie hierop heeft de Europese Unie besloten om een wettelijk kader op te stellen dat de ontwikkeling, implementatie en het gebruik van AI reguleert. De AI Act streeft ernaar om een balans te vinden tussen het bevorderen van innovatie en het waarborgen van de bescherming van individuen en de samenleving.

De AI Act beschermt tegen de gevaren van AI

Net zoals bij veel andere grote uitvindingen, kan ook AI met verkeerde bedoelingen gebruikt worden. Om ons daartegen te beschermen, heeft het Europees Parlement de AI Act in het leven geroepen. De AI Act is een Europese wet die dus Europeanen beschermt tegen de risico’s van AI. Er wordt verwacht dat de AI Act in 2026 ingaat.

AI verordening: per risico andere regels

De AI Act is ontworpen om de ontwikkeling, implementatie en het gebruik van AI te reguleren. Het maakt gebruik van verschillende risiconiveaus om aan te geven wat wel en niet is toegestaan bij het bouwen en gebruiken van AI. Door duidelijke richtlijnen te stellen voor onaanvaardbare, hoog-, beperkt en minimaal risico AI, streeft de AI Act ernaar om de rechten, veiligheid en privacy van individuen te waarborgen.

Onaanvaardbaar risico

Hiermee wordt AI bedoeld die een directe bedreiging vormt voor mensen. Denk aan een AI systeem die menselijk gedrag manipuleert en hun kwetsbaarheden misbruikt. Een ander voorbeeld hiervan zijn AI die voorspelt of iemand een misdaad zal plegen, en social scoring op basis van koopgedrag of financiële situatie. Deze vormen van AI zijn verboden om te gebruiken of maken binnen de EU.

Hoog risico

Onder dit niveau valt AI die de rechten of veiligheid van mensen kan schaden. Denk aan AI die sollicitanten screent of de klimaatbeheersing in een kantoor regelt. De AI Act staat dergelijke AI onder strenge voorwaarden toe, waarbij volledige transparantie over het gebruik van gegevens vereist is. Daarbij is toezicht door mensen noodzakelijk. Dit om ervoor te zorgen dat de rechten en veiligheid van mensen niet wordt geschaad.

Beperkt risico

Een AI systeem met beperkt risico is bijvoorbeeld een chatbot. Mensen moeten zich ervan bewust zijn dat ze interactie hebben met een machine, in plaats van met een mens. Voor deze systemen geldt dan ook een transparantieverplichting.

Minimaal risico

Alle andere vormen van AI vallen onder dit niveau. Het zijn systemen die geen impact hebben op individuele personen. Ze kunnen volgens bestaande wetgeving worden ontwikkeld en gebruikt. Voorbeelden van AI systemen met een minimaal risico zijn zoekmachines en spamfilters.

De AI Act is van toepassing op iedereen die AI ontwikkelt, levert of toepast, ongeacht de branche.

De AVG in de AI Act

De AVG is ook een belangrijk onderdeel in de AI Act. De AVG is van toepassing op de verwerking van persoonsgegevens. Onder persoonsgegevens vallen alle gegevens over een persoon. Denk aan een naam, adres, identificatienummer en geboortedatum. Je kunt verschillende handelingen verrichten met deze persoonsgegevens, zoals verzamelen, ordenen, verzenden, gebruiken of ter beschikking stellen. Dit noem je ook wel verwerkingen. En bij de ontwikkeling en implementatie van AI kan ook al snel persoonsgegevensverwerking plaatsvinden. Voorbeelden hiervan zijn:

·       Persoonsgegevens die worden gebruikt om een AI systeem te trainen.

·       Persoonsgegevens die worden gebruikt door een AI systeem om een geautomatiseerde beslissing te nemen over een natuurlijk persoon.

Het gebruik van AI kan dus vaak gepaard gaan met het verzamelen, analyseren en verwerken van persoonsgegevens. Maar dit hoeft niet. Organisaties hebben namelijk zelf de mogelijkheid om dit wel of niet op te nemen in hun AI oplossing. Wanneer ze dit wel opnemen, moeten de AI systemen uiteraard wel voldoen aan de voorschriften die gelden onder de AVG.

Verantwoord AI inzetten?

Bij TrueLime hechten we veel waarde aan het verantwoord en ethisch inzetten van AI. Ons team van AI specialisten staat klaar om je te begeleiden bij de implementatie en optimalisatie van AI-oplossingen, waarbij we streven naar een verantwoorde en ethische inzet van AI in jouw organisatie. Ons AI platform biedt features die aansluiten bij de AI Act, waaronder centraal beheer, AVG-compliance, grip op kosten, gebruiksanalyse, integratiemogelijkheden en schaalbaarheid. Met behulp van deze features in het platform kunnen de AI oplossingen op de juiste manier worden geconfigureerd. Zo voldoen ze conform de AI Act en de vereisten voor verantwoorde en ethische inzet van AI in jouw organisatie. Plan vrijblijvend een afspraak in en ontdek de mogelijkheden voor jouw bedrijf.

Bronnen: AI-wet | Shaping Europe’s digital future (europa.eu)

https://www.ey.com/nl_nl/ai/wat-betekent-de-ai-act-voor-mijn-organisatie
https://europadecentraal.nl/onderwerp/digitale-overheid/data-en-technologie/artificial-intelligence/

https://privacy-web.nl/nieuws/ai-in-actie-samenspel-tussen-ai-en-de-avg-2-12/