Valt AI te reguleren?
11 mei betekende een kleine doorbraak in de regulering van AI. Twee jaar na het eerste Europese ontwerpvoorstel voor betrouwbare AI bereikte het Europees Parlement een akkoord over een wettelijk kader rond artificiële intelligentie. Die moet nog goedgekeurd worden door de lidstaten, maar de belangrijkste horde lijkt genomen. De urgentie van gereguleerde AI is dan ook hoog, zeker sinds de opkomst van generatieve of ‘creërende’ technologie, zoals de chatbot ChatGPT.
Wat houdt de AI Act in?
Zoals in de eerste wetsontwerpen uit 2021 blijft Europa kiezen voor een gedifferentieerde aanpak. Hoe risicovoller de impact van een AI-systeem, hoe strikter de regels. De kans op schade is nu eenmaal kleiner bij het algoritme achter je Spotify-playlist dan een algoritme dat beslist over je uitkering. Toepassingen met een ontoelaatbaar risico, zoals gezichtsherkenning in openbare ruimtes, blijven verboden. Voor toepassingen met weinig risico gelden minder regels, wat innovatie met AI ten goede moet komen.
De meeste aandacht gaat uit naar de categorie van AI met een hoog maar toelaatbaar risico. Het gaat om toepassingen waarbij AI potentieel een aanzienlijke impact heeft op iemands leven, gezondheid of persoonlijke ontwikkeling. Het gaat dan bijvoorbeeld om de software in autonome wagens of kritische infrastructuur, maar ook om algoritmes die sollicitatiebrieven screenen en zo iemands professionele loopbaan kunnen bepalen. Dergelijke systemen worden onderworpen aan een impactanalyse en audits die de kwaliteit en veiligheid ervan nagaan.
De voorbije twee jaar gingen de debatten dan ook vooral over wat wel en niet tot bepaalde risicocategorieën behoorde. Generatieve AI, zoals ChatGPT, maakte dit er niet makkelijker op. Het risico hangt daar af van waarvoor je het systeem gebruikt. Een chatbot een recept voor een worteltaart dan wel voor een chemische bom laten schrijven is iets heel anders. Critici menen dan ook dat de regulering altijd achter de feiten zal aanhollen door steeds nieuwe toepassingen.
Rechtszekerheid
Toch durven we te stellen dat de voorgestelde AI-wetgeving een juiste en noodzakelijke eerste stap is. Ten eerste omdat men zonder regulering geen stok achter de deur heeft wanneer het misloopt. Daarnaast kan een doordacht wettelijk kader innovatie ook vooruithelpen omdat het rechtszekerheid biedt aan wie ter goede trouw is. Van zelfrijdende wagens wordt al lang gezegd dat de belangrijkste hindernis niet zozeer van technische aard is. Een van de grootste uitdagingen is de verschuivende verantwoordelijkheid wanneer niet langer een mens maar een algoritme aan het stuur zit. Onder meer een gebrek daaraan maakt dat alles bij het oude blijft, zelfs bij wagens die nu al verregaande autonomie hebben.
Een wettelijk kader dat de juridische en morele krijtlijnen rond nieuwe technologie vastlegt, geeft private spelers de kans om op een verantwoorde manier nieuwe toepassingen op de markt te brengen.
Generatieve AI brengt gelijkaardige nieuwe vraagstukken teweeg. Zoals wie eigenaar is van een product, zoals een tekst of een beeld, ontwikkeld door AI. Een wettelijk kader dat de juridische en morele krijtlijnen rond nieuwe technologie vastlegt, geeft private spelers de kans om op een verantwoorde manier nieuwe toepassingen op de markt te brengen.
Toekomstbestendig
Tot slot is er de meer filosofische vraag of regulering van snel evoluerende technologie niet altijd achterhaald en dus onmogelijk is. Dat wetgeving (te) traag tot stand komt, is een feit. Zo zal de AI Act allicht pas in 2025 in voege gaan. Toch kan — en moet — ethische regulering toekomstbestendig zijn, ook als het om AI gaat. Ethiek is minder veranderlijk dan technologie. Denk bijvoorbeeld aan de Rechten van de Mens die quasi onveranderd zijn sinds 1948.
Regulering van AI moet daarom vooral gaan over de fundamentele principes en waarden waar deze aan moet beantwoorden en minder over gedetailleerde normen en regels. Die laatste zijn snel achterhaald door technologische vernieuwing. Wat we fundamenteel waardevol vinden als mens en samenleving, is dat veel minder. Laat de AI Act vooral daarvan een afspiegeling zijn.