De opkomst van kunstmatige intelligentie (AI) en data gestuurde technologieën biedt organisaties enorme kansen. Aan de andere kant brengt AI ook complexe en (juridische) uitdagingen met zich mee. Om deze technologieën succesvol én verantwoord in te zetten, wordt het wettelijk verplicht dat organisaties AI-geletterdheid bevorderen en zich voorbereiden op Europese wetgeving zoals de AI Act, Data Act en de Cyber Resilience Act. In deze blog bespreken we de voorlopige invloed van deze wetgeving op uw organisatie.
AI-geletterdheid: Een Strategische Prioriteit
Voor alle organisaties die op grond van artikel 4 van de AI-Verordening AI systemen willen ontwikkelen óf inzetten ten behoeve van hun bedrijfsactiviteiten, staat vanaf 2 februari 2025 de eerste verplichting uit de AI Verordening voor de deur: het bereiken van AI-geletterdheid.
AI-geletterdheid wordt in de AI Verordening gedefinieerd als: “vaardigheden, kennis en begrip die aanbieders, gebruiksverantwoordelijken en betrokken personen, rekening houdend met hun respectieve rechten en plichten in het kader van deze verordening, in staat stellen geïnformeerd AI-systemen in te zetten en zich bewuster te worden van de kansen en risico’s van AI en de mogelijke schade die zij kan veroorzaken”.
Medewerkers en bestuurders moeten de AI-systemen begrijpen, zowel qua werking als impact. Maar dit geldt óók voor zzp-ers die u inschakelt. AI is niet alleen een technisch onderwerp, maar het beïnvloedt ook privacy, ethiek en aansprakelijkheid. Het in ieder geval noodzakelijk om te begrijpen:
- Hoe AI-systemen beslissingen nemen en welke data het gebruikt;
- Wat de risico’s zijn, zoals bias in modellen en foutieve output;
- Hoe wetgeving, zoals de Europese AI Act, verplichtingen oplegt aan AI-gebruikers en ontwikkelaars.
Een praktische aanpak voor AI-geletterdheid omvat trainingen voor medewerkers, samenwerking tussen juridische en technische teams, en het (laten) opstellen van intern beleid voor ethisch AI-gebruik. In dit beleid kan worden opgenomen hoe mensen binnen uw organisatie ervoor zorgen dat zij voldoende AI-geletterd zijn én blijven.
Europese AI Act: Wat betekent het voor uw organisatie?
De AI Act, van kracht sinds 1 augustus 2024, introduceert regels afhankelijk van het risiconiveau van AI-systemen. Afhankelijk van het risiconiveau van een AI-systeem (bijvoorbeeld hoog risico bij biometrische identificatie), gelden er specifieke verplichtingen, zoals o.a.:
- Transparantie naar gebruikers van het AI-systeem;
- Risicobeoordelingen voorafgaand aan implementatie;
- Documentatie over de werking van het AI-systeem.
Let op: Vanaf februari 2025 geldt er al een verbod op AI-systemen met onaanvaardbaar risico. Deze systemen worden onder de AI Act gezien als verboden praktijken.
Aanpassing van contracten en algemene voorwaarden
Organisaties moeten daarnaast hun algemene en bedrijfsvoorwaarden aanpassen om aansprakelijkheid bij het gebruik van AI te adresseren. Dit geldt met name wanneer AI gebruikt wordt om beslissingen te nemen over klanten of medewerkers, zoals bij geautomatiseerde kredietbeoordelingen of recruitment.
Indien uw onderneming AI-systemen levert of inzet, is het noodzaak om zo snel mogelijk de algemene voorwaarden hierop aan te passen. Het gaat om inkoopvoorwaarden als leverancier zijnde en algemene voorwaarden voor aanbieders van AI-systemen. Hierin moet o.a. komen te staan hoe het zit met de aansprakelijkheid van fouten die worden gemaakt door AI-systemen, de risico’s van het gebruik, de verschillende verantwoordelijkheden, verplichte transparantie en audits. Het is erg relevant prioriteit te geven aan het opstellen van transparante inkoop- en algemene voorwaarden, mede om de boetes uit de AI-Act te vermijden.
Wat kunt u nú al doen?
Compliance met AI-en datawetgeving vormt niet alleen een juridische verplichting, maar ook een kans voor organisaties om innovatie te versterken én het vertrouwen bij klanten en/of stakeholders te vergroten. Neem daarom als goed voornemen voor 2025 de volgende stappen:
- Bereid medewerkers in uw organisatie vóór februari 2024 voor om AI-geletterdheid te bereiken. Doe dit door kennis te delen over de werking van AI-systemen die uw organisatie ontwikkelt óf inzet. Goed is om een kennissessie te geven aan uw medewerkers, of een uitlegdocument over de AI die u levert of inzet in de organisatie.
- Analyseer de impact van AI- en datawetgeving: Voer een audit uit om te begrijpen waar uw organisatie gebruikmaakt van AI en welke datastromen belangrijk zijn. Ga ook na of onder welke verplichtingen uw organisatie valt, bijv. uit de AI Act of de CRA. Zie onder andere blogs daarover.
- Stel AI- en databeleid op: Ontwikkel richtlijnen voor medewerkers die aansluiten bij de nieuwe wetgeving en waarborgen ethisch gebruik van AI. Dit ook zodat AI-geletterdheid kan worden bereikt.
- Pas contracten en voorwaarden aan: Zorg dat aansprakelijkheid en datadeling juridisch goed zijn geregeld.
De ondernemingsjuristen van The Legal Company combineren bij bovenstaande actiepunten juridische expertise met kennis van technologie. Of u nu net begint met AI of uw bestaande systemen wilt analyseren, wij zorgen dat u niet alleen voorbereid bent op de regelgeving, maar er ook strategisch van profiteert.
Wacht niet tot de deadlines naderen. Neem vandaag nog contact op met ons via info@thelegalcompany.nl of bel naar 020 345 0152.
Dit artikel is geplaatst op 10 december 2024
