Leden van het Europees Parlement zijn het eens geworden over een voorlopig akkoord over de regulering van AI. De AI-regulering heeft tot doel het schadelijk effect van AI te beheersen. Hiermee krijg het eerste officiële ‘AI-rulebook’vorm. Het akkoord werd bereikt na maanden van intensieve onderhandelingen.
De tekst zal op technisch niveau nog kleine aanpassingen ondergaan voordat er op 11 mei in de commissie wordt gestemd, maar er wordt verwacht dat de tekst half juni in de plenaire vergadering zal worden gestemd.
Omgaan met General Purpose AI, een subcategorie van AI waartoe ook ChatGPT behoort, is een onderwerp van verhitte discussies geweest. De EP-leden bevestigden eerdere voorstellen om strengere verplichtingen op te leggen aan stichtingsmodellen. Generatieve AI-modellen zouden moeten worden ontworpen en ontwikkeld in overeenstemming met het EU-recht en de grondrechten, waaronder de vrijheid van meningsuiting.
De EP-leden debatteerden over welk type AI-toepassingen moeten worden verboden vanwege hun onaanvaardbare risico’s. Er werd voorgesteld om door AI aangedreven tools voor algemeen toezicht op interpersoonlijke communicatie te verbieden, maar deze werden geschrapt na tegenstand van de Europese Volkspartij (EVP). Het gebruik van door AI aangedreven software voor emotieherkenning is verboden bij wetshandhaving, grensbeheer, op de werkplek en in het onderwijs.
De classificatie met een hoog risico categoriseert AI-oplossingen betekent dat aanbieders zich moeten houden aan een strenger regime, waaronder eisen op het gebied van risicobeheer, transparantie en gegevensbeheer. EP-leden voegden een extra laag toe, wat betekent dat AI-modellen die onder de categorieën van bijlage III vallen, alleen als een hoog risico worden beschouwd als ze een aanzienlijk risico vormen op schade aan de gezondheid, veiligheid of grondrechten.
