Voordelen en nadelen artificial intelligence

Enerzijds biedt artificial intelligence (AI) veel voordelen, zoals efficiëntere processen en betere besluitvorming. Anderzijds zijn er veel vragen over privacy en ethiek. De opkomst van artificial intelligence (AI) heeft geresulteerd in een groeiende behoefte aan wetgeving om deze technologie te reguleren en te zorgen voor veilig en verantwoord gebruik. De Europese Unie en haar lidstaten hebben daarom een Artificial Intelligence Act opgesteld, waarin voorwaarden en bepalingen over het gebruik zijn opgenomen.  

Wat is het doel van de Artificial Intelligence Act? 

In april 2021 heeft de Europese Commissie de eerste conceptversie van de AI-wetgeving al gepresenteerd in de vorm van de Artificial Intelligence Act (AI-Act). Het doel van de wetgeving is om een wettelijk kader te creëren voor het gebruik van Artificial Intelligence in de EU, waarbij rekening wordt gehouden met de risico's die gepaard gaan met deze technologie. Het streven is om de wetgeving dit najaar definitief vast te stellen.

AI-systemen met een hoog risico

De voorgestelde wetgeving richt zich op artificial intelligence (AI) systemen die als ‘hoog risico’ worden beschouwd, zoals systemen die worden gebruikt voor gezichtsherkenning en andere biometrische identificatie, kritieke infrastructuur, vervoer en energie. AI-systemen die worden gebruikt voor minder risicovolle toepassingen, zoals chatbots en klantenservices, worden niet onderworpen aan deze strenge regelgeving.

Wat zijn de belangrijkste punten uit de AI-Act?

Wanneer we inzoomen op de voorwaarden en bepalingen, dan valt een aantal zaken op in de act:

Risicobeoordelingen

Bedrijven die Artificial Intelligence Act systemen op de markt willen brengen, moeten eerst een risicobeoordeling uitvoeren. Dit houdt in dat zij de potentiële risico's van hun AI-systeem moeten identificeren en maatregelen moeten nemen om deze risico's te minimaliseren. Dit omvat het identificeren van mogelijk discriminatoire effecten, het minimaliseren van de kans op fouten en het zorgen voor transparantie in het besluitvormingsproces van het AI-systeem.

Gebruikersrechten

De wetgeving rondom Artificial Intelligence Act schrijft voor dat bedrijven gebruikersrechten moeten waarborgen. Dit betekent dat gebruikers het recht hebben om te weten wanneer ze met een AI-systeem te maken hebben en welke beslissingen op basis daarvan worden genomen. Ze hebben ook het recht om de uitkomsten van het AI-systeem te begrijpen en aan te vechten.

Transparantie

Bedrijven moeten transparant zijn over het gebruik van  Artificial Intelligence Act systemen en informatie verstrekken over hoe de systemen werken en welke gegevens ze verzamelen. Dit houdt in dat bedrijven open moeten zijn over de algoritmen die zij gebruiken en uitleggen hoe die werken.

Datakwaliteit en privacy

Bedrijven moeten ervoor zorgen dat de gegevens die ze gebruiken voor hun AI-systemen van hoge kwaliteit zijn en geen onnodige vooroordelen bevatten. Bovendien moeten bedrijven de bescherming van persoonlijke gegevens van gebruikers waarborgen en ervoor zorgen dat de AI-systemen voldoen aan de Algemene Verordening Gegevensbescherming (AVG). 

Aansprakelijkheid

Bedrijven zijn aansprakelijk voor schade die is veroorzaakt door hun AI-systemen. Dit betekent dat bedrijven verantwoordelijk zijn voor eventuele fouten of ongevallen die worden veroorzaakt door hun AI-systemen.

Invoering Artificial Intelligence Act in najaar 2023

Voor wat betreft de invoering van de Artificial Intelligence Act streeft de Europese Unie ernaar om in het najaar van 2023 een definitief akkoord te hebben. Vervolgens gaan de lidstaten met de wetgeving aan de slag. Veel van de lidstaten zijn ook al bezig met eigen wetgeving. De uitdaging wordt om de verschillende regels op elkaar aan te laten sluiten.

Wat betekent dit voor u?

Als u een bedrijf heeft dat  Artificial Intelligence Act systemen ontwikkelt, verkoopt of gebruikt in de EU, doet u er verstandig aan om de ontwikkeling van de AI-wetgeving nauwlettend te volgen. Zorg ervoor dat u aan de (aanstaande) wetgeving voldoet. Uw diensten en producten moeten veilig en ethisch verantwoord zijn en moeten voldoen aan de verwachtingen van gebruikers.

Wat kan ABAB Legal voor u betekenen?

Bij ABAB Legal zijn we graag Van betekenis. Door kennis te delen, advies te geven en voor inzicht te zorgen. Wilt u meer informatie over wetgeving rondom artificial intelligence? Neem contact op met Niels Ista, jurist ondernemingsrecht en ICT-recht, via telefoonnummer 0165-531330 of stuur Niels een e‑mail.