illustratie camera's en drones voor gezichtsherkenning op straat

Nieuwe AI-regelgeving: impact voor bedrijven?

De Europese Unie ontwierp het allereerste juridische kader voor het gebruik van artificiële intelligentie. Deze wet wil transparantie en veiligheid bieden, maar toch ruimte laten voor innovatie. Advocaat Edwin Jacobs belicht de juridische impact voor bedrijven.

14 juni 2024

EU-wetgevers hebben recent een akkoord bereikt over nieuwe regelgeving voor het gebruik van kunstmatige intelligentie (AI) in de Europese Unie. “Technologie die steeds intelligenter wordt, heeft zowel op gebruikers als op bedrijven impact”, zegt Edwin Jacobs, advocaat bij Timelex. “Tijdens een productieproces weet de gebruiker niet altijd hoe een bepaalde tool werkt. Daarnaast heeft het impact op bedrijven die AI op de markt brengen of importeren, want ook zij dragen verantwoordelijkheid.”

Verboden AI-systemen

De wet is bedoeld om Europeanen vertrouwen te geven in AI, terwijl het kader ook de risico’s van artificiële intelligentie erkent. Soms is het moeilijk te achterhalen waarom AI-systemen bepaalde beslissingen nemen, waardoor de transparantie in het gedrang komt. “Onder AI vallen alle autonoom handelende computersystemen en algoritmes die beslissingen nemen, content genereren (denk maar aan ChatGPT) of mensen assisteren”, zegt Edwin Jacobs. “De bedoeling van die AI-wet is ervoor te zorgen dat burgers en ondernemingen gebruik kunnen maken van veilige, transparante en traceerbare systemen die niet discriminerend zijn en tegelijk toch ook ruimte te bieden voor innovatie. De wet is van toepassing op alle sectoren.”

Risicogebaseerd

De voorgestelde nieuwe AI-wet van de EU omvat een risicogebaseerde benadering, waarbij alle AI-systemen, ongeacht het risiconiveau, aan elementaire transparantieverplichtingen moeten voldoen. Bedrijven zijn verplicht om het risiconiveau van hun AI-systemen te bepalen en een grondige risico-analyse uit te voeren om geschikte maatregelen te treffen voor het gebruik, de productie of de verkoop ervan. Er zijn drie risiconiveaus vastgesteld in de wet. 

Lees het volledige artikel in het juninummer van Ondernemen
 

Après-midi Tech-ethics met Edwin Jacobs op 30 september

Op 30 september (15 uur, Leuven) is Edwin Jacobs een van de gastsprekers tijdens een Après-Midi bij ETION. Samen met Dr. Katleen Gabriels (Universiteit Maastricht), Ruben Missine (Group Data & Analytics Of-ficer Colruyt) en Jochanan Eynikel (businessfilosoof ETION) buigt hij zich over ethiek in de digitale wereld. Hoe kunnen bedrijven hiermee omgaan? Meer info & inschrijven.