Meest in het oog springen de voorstellen voor striktere regelgeving voor bedrijven die AI willen toepassen. AI wordt daarbij gedefinieerd als slimme software die met hulp van data voorspellingen doet en zelfstandig besluiten neemt. De EC geeft AI-technologie met een hoog risico op misbruik het stempel ‘risicovol’. Dit betekent dat deze technologieën te maken krijgen met een reeks nieuwe eisen en strikte regels, waaronder nalevingscontroles en aanvullend toezicht wanneer ze worden toegepast in ‘kritieke sectoren’ en vallen onder ‘kritisch gebruik’. Bij die nog nader te bepalen kritieke sectoren zouden extra eisen gesteld moeten worden, met boetes als bedrijven niet aan de eisen voldoen. AI is ook in de verzekeringssector een belangrijk onderwerp. Zo werkt het Verbond aan een ethisch kader voor de omgang met data en de inzet van algoritmes om bijvoorbeeld een premie vast te stellen. Meer dan de helft van de Europese bedrijven gebruikt een vorm van AI, aldus de Commissie. Het is nog niet bekend of dit soort verwerkingen onder de zwaardere eisen zouden komen te vallen.
Controleren en certificeren
De EC wil verder dat autoriteiten de digitale wereld kunnen controleren en certificeren, zoals ook gebeurt bij bijvoorbeeld bij cosmetica, auto's en speelgoed. En zo via regelgeving zorgen voor een veilige omgeving. Zodat burgers bijvoorbeeld niet met gezichtsherkenning te maken krijgen die discrimineert op basis van huidskleur. Daar bovenop blijven de strikte EU-voorschriften van toepassing om de consument te beschermen tegen oneerlijke handelspraktijken, misbruik van persoonsgegevens en schending van privacy. “Het toezicht hierop kunnen we niet overgelaten aan nationale toezichtsorganen”, aldus Eurocommissaris Margrethe Vestager (Digitalisering en Mededinging). “We moeten zorgen voor een gezamenlijke Europese autoriteit, om fragmentatie van de handhaving te voorkomen.”
Discriminatie voorkomen
Europa wil technologische innovatie stimuleren om mee te blijven doen in de wereldwijde race met China en de Verenigde Staten. Tegelijkertijd wil de EU burgers beschermen en vertrouwen creëren in nieuwe technologieën. Volgens Vestager is Europa klaar is voor het digitale tijdperk: “We willen dat elke burger, werknemer of zelfstandige een eerlijke kans krijgt om de vruchten te plukken van de digitalisering. Denk bijvoorbeeld aan veiliger of minder vervuilend rijden dankzij zelfrijdende auto's of aan medische beeldvorming via AI, die artsen in staat stelt ziektes in een veel vroeger stadium op te sporen en levens te redden.” Een logisch ander gebied waar de Commissie dan ook meer toezicht op wil gaan houden, is het gebruik van ‘potentieel bevooroordeelde gegevenssets via algoritmen’, om zo discriminatie te voorkomen.
Slim datagebruik
Om de EU het toonbeeld maken van een samenleving die sterk staat door slim datagebruik, wil de EC een Europese dataruimte tot stand brengen: een markt voor data die ook ongebruikte data ontsluit. Met als doel: bedrijven en wetenschappers die data met elkaar delen, om bijvoorbeeld medicijnen te ontwikkelen of verspilling van grondstoffen tegen te gaan. En een Europese cloudstrategie om data binnen de Europese grenzen op te slaan. Burgers, bedrijven en organisaties moeten in staat zijn om betere beslissingen te nemen op basis van inzichten ontleend aan niet-persoonsgebonden gegevens. Zulke gegevens moeten voor iedereen beschikbaar zijn: voor openbare én particuliere partijen, voor start-ups én grote ondernemingen. Ook voor deze ambitie gaat de Commissie voorstellen doen voor passend regelgevingskader voor het beheer, de toegang en het (her)gebruik van data tussen bedrijven, tussen bedrijven en de overheid en binnen overheidsdiensten.
Vervolgstappen
Zowel het Verbond als Insurance Europe zullen de voorstellen van de EC analyseren. Daarnaast wordt bezien welke input gegeven wordt op de consultatie over de Europese Data Strategie en de plannen voor een regelgevend kader op het gebied van AI.