AI actueel 30 maart 2026

AI Actueel - Aflevering 26: Shadow AI

Introductie en Thema

• De aflevering begint met een verwelkoming van de deelnemers en een introductie van het onderwerp: shadow AI.

• Presentator kondigt aan dat er een gesprek zal plaatsvinden met Rick Opdam van Elionic, die zijn ervaringen en inzichten over AI zal delen.

Gesprek met Rick Opdam

• Rick deelt dat er veel vraag is naar mensen met AI-kennis in het bedrijfsleven, vooral gerelateerd aan shadow AI.

• Hij wijst op een belangrijk nieuwsitem over fundamenteel onderzoek door Google, dat nieuwe compressietechnieken voor embeddings heeft ontwikkeld.

• Deze techniek maakt modellen tot vijf keer kleiner zonder verlies van data, wat leidt tot lagere energiekosten en betere prestaties.

• Na de aankondiging daalden de aandelen van geheugenproducenten, wat de impact van deze ontwikkeling illustreert.

• Rick benadrukt dat lokale modellen zoals GPT OSS nu ook op minder krachtige hardware kunnen draaien.

Juridische Aspecten door Trix Mulder

• Trix Mulder wordt geïntroduceerd als lector in juridische aspecten van ondernemerschap en bespreekt haar focusgebieden.

• Ze legt uit dat juridische aspecten breed zijn en bijna elk aspect van ondernemerschap raken.

• Trix introduceert het onderwerp AI-geletterdheid en wetgeving, specifiek de AI-verordening die relevant is voor ondernemers.

• Er wordt gesignaleerd dat er veel te bespreken valt over de AI-verordening, wat zowel uitdagend als interessant kan zijn voor juristen.

AI Geletterdheid en Juridische Aspecten

Introductie tot AI Geletterdheid

• De focus ligt op AI geletterdheid, met veel vragen over hoe dit aan te pakken. Een presentatie wordt voorbereid om deze vragen te beantwoorden.

• Trix Mulder introduceert zichzelf als lector juridische aspecten van ondernemerschap en legt de context van de presentatie uit.

Onderwerpen van het Lectoraat

• Het lectoraat heeft twee leerlijnen: aanbestedingsrecht en IT-rechterlijke vraagstukken.

• Belangrijke thema's zijn cybersecurity, datadelen (inclusief persoonsgegevens), en AI, waarbij de AI verordening centraal staat.

De Impact van AI

• Er wordt een discussie gevoerd over of AI een revolutie is; sommige experts geloven dat het meer impact zal hebben dan vuur, elektriciteit en internet.

• Historische vergelijkingen worden gemaakt met de industriële revolutie en de internetrevolutie, waarbij voorspellingen worden gedaan over de toekomstige impact van AI.

Juridische Uitdagingen rondom AI

• Voorbeelden van juridische problemen zoals hallucinatie door AI en verkeerde toepassing door advocaten worden besproken.

• Auteursrechtenkwesties komen aan bod, inclusief schendingen door gebruik van teksten, afbeeldingen en muziek zonder toestemming.

Discriminatie in AI Systemen

• Er is een bias in veel geteste systemen die mensen met een lichtere huidskleur beter herkennen dan mensen met een donkere huidskleur of vrouwen.

• De Google-topman waarschuwde voor blind vertrouwen in AI; dit benadrukt het belang van kritisch denken bij het gebruik ervan.

Reactie van Europese Wetgever

• De presentatie bespreekt verschillende wetten vanuit Europa die betrekking hebben op digitale sectoren, waaronder interacties tussen deze wetten.

• Complexiteit ontstaat door de interactie tussen de AI verordening en AVG (Algemene Verordening Gegevensbescherming).

Ontwikkeling van de AI Act

• De voorbereiding op de AI act begon al in 2021; echter werd generatieve AI niet opgenomen in het oorspronkelijke voorstel.

AI Wetgeving en Generatieve AI

Achterstand van de Wetgeving

• De wetgeving rondom AI liep achter op de technologische ontwikkelingen, vooral in 2022. Dit leidde tot snelle aanpassingen in de wetgeving.

• Juridische vraagstukken ontstaan door de snelle ontwikkeling van technologieën zoals AI, wat vraagt om nauwkeurige wetgeving die goed aansluit bij bestaande wetten.

De AI Act

• De AI Act, ook wel bekend als de AI verordening, is het eerste wereldwijde regelgevende kader voor AI. Het is uniek omdat het zich specifiek richt op AI-technologie.

• In tegenstelling tot andere Europese wetten die breed toepasbaar zijn (zoals de AVG), focust de AI Act uitsluitend op risico's verbonden aan AI.

Risiconiveaus en Vereisten

• De AI Act categoriseert risico's in verschillende niveaus: onaanvaardbaar (verboden), hoog en beperkt. Elk niveau heeft specifieke vereisten.

• Er is veel discussie over hoe deze regelgeving bedrijven beïnvloedt, met name in sectoren zoals ICT.

Voorbeeld uit de Auto-industrie

• Een vergelijking wordt gemaakt met de auto-industrie; ondanks aanvankelijke bezwaren tegen regelgeving hebben Europese autobedrijven uiteindelijk succes geboekt.

• Wetgeving kan innovatie stimuleren door bedrijven te dwingen alternatieve oplossingen binnen wettelijke kaders te vinden.

Implementatie van de AI Act

• De implementatie van delen van de AI Act begint in augustus 2024, met een verbod op bepaalde soorten verboden AI al eerder ingegaan.

• Sinds februari vorig jaar is er aandacht voor 'AI geletterdheid', wat een belangrijk aspect van de wet vormt dat verder besproken zal worden.

Artikel over AI Geletterdheid

• Artikel 4 van de verordening vereist een toereikend niveau van AI-geletterdheid bij aanbieders en gebruikers van AIsystemen.

• Er zijn voorstellen om deze verplichting te versoepelen; echter, dit moet nog goedgekeurd worden door EU-instellingen.

Definitie en Aspecten van Geletterdheid

• Wat 'toereikend' inhoudelijk betekent wordt niet duidelijk gedefinieerd in het artikel; het omvat kennis, begrip en vaardigheden omtrent technische werking en praktische aspecten.

Technische en Ethische Aspecten van AI

Technische Aspecten

• Het is belangrijk om een basisbegrip te hebben van hoe AI werkt, zonder dat je zelf AI hoeft te kunnen bouwen.

• Kennis over de rol van data in AI is cruciaal; wat zijn generative AI, large models en machine learning? Dit helpt bij het begrijpen van de toepassingen binnen een organisatie.

Ethische Aspecten

• Er moet bewustzijn zijn over schadelijke gevolgen van AI, zoals discriminatie en privacykwesties bij het gebruik van persoonsgegevens.

• De aansprakelijkheid bij fouten gemaakt door AI-systemen is een belangrijke ethische vraag, vooral in sectoren zoals de zorg en landbouw.

Sociale Aspecten

• De impact van AI op menselijke interactie kan leiden tot een grotere kloof tussen mensen met verschillende digitale vaardigheden.

• Onderzoek toont aan dat ons brein minder verbindingen maakt door het gebruik van AI-tools, wat invloed heeft op sociale interacties.

Praktische Aspecten

• Het inzetten van AI in werkprocessen vereist kritische keuzes; niet altijd is AI de beste oplossing vergeleken met andere software.

• Voorbeelden uit de zorgsector tonen aan dat hoewel AI bepaalde diagnoses beter kan stellen dan mensen, er ook kanttekeningen zijn over nauwkeurigheid en betrouwbaarheid.

Conclusie over AI Geletterdheid

• Het niveau van vereiste AI-geletterdheid hangt af van context en risico's. Verschillende rollen binnen organisaties vereisen verschillende niveaus van kennis.

• Verboden voor het gebruik van AI in organisaties zijn niet effectief vanwege de opkomst van shadow AI die buiten officiële richtlijnen opereert.

AI Geletterdheid binnen Organisaties

Het Belang van AI Geletterdheid

• De term "gebruik zonder akkoord en toestemming" verwijst naar het gebruik van AI-systemen door werknemers zonder toezicht van hun werkgever, wat de noodzaak voor AI-geletterdheid benadrukt.

• Verschillende rollen binnen een organisatie (bestuur, juridische afdeling, communicatie, HR) vereisen verschillende niveaus van AI-geletterdheid afhankelijk van de functie en verantwoordelijkheden.

Specifieke Rollen en Hun Vereisten

• Voorbeelden: Een HR-medewerker gebruikt AI om kandidaten te selecteren, terwijl een marketingmedewerker AI inzet voor contentcreatie op sociale media. Dit toont aan dat verschillende functies verschillende vaardigheden vereisen.

• Onderzoek uit 2023 toont aan dat één op de drie Nederlandse organisaties al AI gebruikt in het sollicitatieproces; dit heeft implicaties voor de benodigde geletterdheid bij HR-medewerkers.

Risico's en Middelen

• Er is een verschil in het niveau van AI-geletterdheid tussen functies; bijvoorbeeld, HR-medewerkers moeten zich bewust zijn van bias in selectieprocessen die door AI kunnen ontstaan.

• Beschikbare middelen zoals e-learning en periodieke trainingen zijn cruciaal om medewerkers op te leiden in hun specifieke rol met betrekking tot AI.

Maatwerk Oplossingen

• Een afgestudeerde student heeft een overzicht gemaakt dat rollen binnen organisaties koppelt aan kennismodules over AI-geletterdheid. Dit helpt bij het identificeren van opleidingsbehoeften per functie.

• Het wijzigingenregister houdt bij hoe AI-systemen evolueren; updates zijn noodzakelijk om ervoor te zorgen dat systemen effectief blijven functioneren.

Juridische Aspecten en Toekomstige Ontwikkelingen

• Er is geen "one size fits all"-oplossing; maatwerk is vereist afhankelijk van de grootte en structuur van de organisatie.

• Juristen moeten technologie niet remmen maar verantwoorde ontwikkeling bevorderen. Dit vraagt om creatief denken over hoe technologie kan worden geïntegreerd in werkprocessen.

Vragen en Discussiepunten

• De spreker biedt aan om onderzoeksresultaten te delen die handvatten bieden voor organisaties die met deze uitdagingen omgaan.

• Vraag over beschikbaarheid van overzicht per rol wordt bevestigd; er zijn voorbeelden vanuit gemeentes waar ook diverse rollen bestaan met betrekking tot AI-geletterdheid.

Wetgeving rondom AI

• De toepassing van de nieuwe wetgeving omtrent AI richt zich voornamelijk op organisaties, maar gebruikers hebben ook verplichtingen. Dit benadrukt het belang voor individuen om zich bewust te zijn van hun verantwoordelijkheden bij het gebruik van AI-technologieën.

AI en Juridische Aspecten in Werksettings

De rol van AI-geletterdheid

• Het belang van AI-geletterdheid wordt benadrukt, vooral als een verantwoordelijkheid voor werkgevers en de overheid.

• Er zijn twee soorten Europese wetgeving: verordeningen en richtlijnen. Verordeningen hebben directe werking in Nederland en zijn afdwingbaar bij de Nederlandse rechter.

Jurisprudentie en Wetgeving

• Europese wetgeving geldt in alle 27 lidstaten, met de verwachting dat deze op dezelfde manier wordt toegepast.

• Tot nu toe is er nog geen jurisprudentie rondom AI-wetgeving omdat deze nog niet volledig in werking is getreden.

Compliance binnen Bedrijven

• Bedrijven moeten een compliance officer (Kaaiko) aanstellen voor AI, wat een specialisatie vereist.

• De AVG heeft al enige tijd bestaan, maar de nieuwe AI-verordening is nog niet volledig geïmplementeerd.

Richtlijnen vanuit de EU

• Er komen steeds meer richtlijnen vanuit de EU over hoe om te gaan met transparantievereisten in het gebruik van AI.

• Deze richtlijnen zijn beschikbaar in verschillende talen, waaronder Nederlands.

Shadow AI: Een Uitdaging voor Organisaties

Definitie van Shadow AI

• Shadow AI verwijst naar het gebruik van kunstmatige intelligentie door medewerkers zonder formeel beleid of goedkeuring van de organisatie.

Problemen met Shadow AI

• Zonder vastgesteld beleid is het moeilijk om te definiëren wat als shadow AI wordt beschouwd; dit kan leiden tot onduidelijkheid over welke tools worden gebruikt.

Gevolgen voor Data Beheer

• Het gebrek aan controle over gebruikte tools kan risico's met zich meebrengen voor databeveiliging en privacy.

Aanpak binnen Organisaties

• Organisaties moeten ervoor zorgen dat ze goede AI-oplossingen aanbieden om te voorkomen dat medewerkers ongecontroleerde tools gebruiken.

Wat is Managed AI en waarom is het belangrijk?

Balans tussen innovatie en risico

• Werkgevers erkennen het belang van samenwerking, maar de implementatie van goede AI binnen organisaties vereist zorgvuldige afwegingen.

• Innovatieve tools zijn vaak nog niet goed getest, wat kan leiden tot veiligheidsrisico's. Het vinden van een balans tussen nieuwe technologieën en hun betrouwbaarheid is cruciaal.

Centraal beheer van AI

• Managed AI houdt in dat bedrijven hun AI centraal beheren, vergelijkbaar met de overgang naar cloudoplossingen rond 2011.

• Voordelen van centraal beheer omvatten kostenbesparing en naleving van wetgeving, evenals inzicht in wie er gebruik maakt van AI binnen de organisatie.

Gegevensbeveiliging en compliance

• Er zijn uitdagingen bij het waarborgen dat data binnen de EU blijft, vooral wanneer modellen worden gehost door externe partijen zoals Microsoft.

• Onbewuste fouten kunnen leiden tot datalekken buiten Europese grenzen, wat juridische implicaties heeft voor bedrijven.

Risico's verbonden aan gratis tools

• Het gebruik van gratis tools kan leiden tot risico's voor intellectueel eigendom; gevoelige klantdata kan onbedoeld worden gebruikt voor hertraining.

• Compliance-risico’s ontstaan doordat bedrijven niet kunnen monitoren hoe hun data wordt gebruikt of waar deze terechtkomt.

Consistentie en schaalbaarheid

• Door goed geteste modellen te gebruiken die specifiek zijn afgestemd op bepaalde groepen binnen de organisatie, kan een consistentere output worden bereikt.

• Medewerkers kunnen afhankelijk worden van specifieke tools (shadow AI), waardoor het moeilijker wordt om deze oplossingen te beheren of af te schaffen.

Controle versus innovatie

• Een balans tussen controle over data en ruimte voor innovatie is essentieel; teveel restricties kunnen belemmerend werken.

• Managed AI biedt grip op data door integratie met bestaande dataplatformen, wat leidt tot betere strategische beslissingen.

Van Shadow AI naar Managed AI: Beheer en Strategie

Het Belang van Tools en Beleid

• Het is cruciaal om tools centraal te hebben voor het beheer van AI binnen organisaties, vooral om de overgang van Shadow AI naar Managed AI te faciliteren.

• Er zijn browserplug-ins beschikbaar die inzicht geven in welke AI-tools binnen een organisatie worden gebruikt, wat helpt bij het identificeren van Shadow AI.

• Organisaties kunnen scans uitvoeren om softwaregebruik in kaart te brengen, wat belangrijk is voor security policies en compliance.

Beheer van Bedrijfsgevoelige Gegevens

• Bij gebruik van tools zoals ChatGPT kan er een waarschuwing ingesteld worden als bedrijfsgevoelige gegevens dreigen gelekt te worden, met voorstellen voor masking.

• Deze tools helpen niet alleen bij het beschermen van gevoelige informatie maar ook bij het in kaart brengen van Shadow AI-gebruik binnen de organisatie.

Governance en Samenwerking

• Een goed alternatief voor ongecontroleerd gebruik van AI is essentieel; bedrijven moeten beleid en strategieën ontwikkelen rondom AI-beheer.

• IT en juridische afdelingen moeten samenwerken om ervoor te zorgen dat aan wetgeving wordt voldaan, wat cruciaal is gezien de veranderende aard van AI-systemen.

Continu Proces en Administratie

• Het bijhouden van een register voor wijzigingen in modellen is wettelijk verplicht; dit kan veel werk met zich meebrengen maar zijn noodzakelijk.

• Hoewel er geen strikte verplichtingen vanuit de AI-verordening zijn, wordt aangeraden om registraties bij te houden vanwege de dynamiek in hoe AI-systemen worden ingezet.

Risico's en Aanpak

• De risico's verbonden aan Shadow AI zijn significant; organisaties moeten deze centraal beheren met behulp van beschikbare tools.

• Verbieden van AI werkt niet effectief; bedrijven moeten begrijpen welke tools gewaardeerd worden en deze op een centrale manier inzetten.

AI en Samenwerking in de Praktijk

De Perceptie van IT en Juridische Professionals

• Er is een veelvoorkomende gedachte dat IT-professionals eng zijn voor juristen vanwege hun focus op cijfers en technologie, wat leidt tot een kloof in samenwerking.

• Studenten leren al vroeg samen te werken, waardoor ze beseffen dat samenwerking met IT-professionals waardevol kan zijn voor organisaties.

Betrokkenheid van Legal bij AI Ontwikkeling

• Het is cruciaal om juridische professionals vanaf het begin te betrekken bij de ontwikkeling van AI-projecten om risico's beter in te schatten.

• Vroegtijdige betrokkenheid van Legal voorkomt situaties waarin projecten pas laat worden beoordeeld, wat vaak leidt tot afwijzing of aanpassingen die eerder hadden kunnen worden gemaakt.

Kaaiko: Rol en Betekenis

• Kaaiko staat voor Certified AI Compliance Officer; deze rol is essentieel voor het waarborgen van naleving binnen AI-projecten.

• Suus Idema zal binnenkort meer uitleg geven over de rol van Kaaiko binnen haar organisatie.

De Uitdagingen van AI Adoptie

Moeilijkheden bij Implementatie

• Veel organisaties hebben moeite met de effectieve inzet van taalmodellen, wat leidt tot inefficiënties in het gebruik ervan.

• Medewerkers moeten vaak complexe instructies volgen voordat ze AI-tools kunnen gebruiken, wat de adoptie vertraagt.

Oplossingen Voorstellen

• Er wordt gewerkt aan oplossingen die organisaties helpen om AI efficiënter te implementeren zonder onnodige barrières.

Het Platform Soufu

Alternatief voor Bestaande Platforms

• Soufu biedt een alternatief voor platforms zoals ChatGPT en Cloud Copilot door Nederlandse modellen aan te bieden zonder directe afhankelijkheid van Amerikaanse diensten.

Veiligheid en Naleving

• Het platform garandeert dat gevoelige informatie veilig blijft binnen Nederland en voldoet aan AVG-regels, wat belangrijk is voor organisaties die met data werken.

Presentatie over Soufu

Introductie tot het Platform

• Stefan Knecht presenteert Soufu als een veilige werkplekoplossing voor Nederlandse organisaties, gericht op snelle veranderingen in technologie.

Keuzes Tussen Zelfbouw of Gebruikmaken van Open Source

• Organisaties staan voor de keuze tussen zelfbouw of gebruik maken van open source pakketten; beide opties vereisen constante updates en expertise.

De Rol van Externe Organisaties in Data Beheer

Risico's van Samenwerking met Kleine Bedrijven

• Veel organisaties zijn terughoudend om samen te werken met externe partijen, vooral kleinere bedrijven, vanwege zorgen over dataveiligheid en controle.

• Grote organisaties hebben minder angst voor samenwerking met gerenommeerde partijen zoals Ionix, maar de afhankelijkheid van één model kan een risico vormen.

Oplossingen voor Databeheer

• Er is een platform ontwikkeld dat klanten begeleidt bij het veilig beheren van hun data en processen, zonder dat deze data door derden wordt gebruikt voor modelverbetering.

• Het platform integreert met bestaande systemen zodat gebruikers eenvoudig rapportages kunnen genereren vanuit hun eigen databases.

Adoptie en Integratie van AI-tools

• Klanten worden actief betrokken bij het proces; ze leren hoe ze AI-tools effectief kunnen gebruiken binnen hun dagelijkse werkzaamheden.

• Door samen te werken aan automatisering kunnen klanten zelf ideeën aandragen die verder gaan dan basisgebruik.

Monitoring en Compliance in AI-toepassingen

Verantwoordelijkheid voor Wetgeving

• Het platform zorgt ervoor dat wet- en regelgeving wordt nageleefd, inclusief ISO en NEN certificeringen.

• Gebruikers hebben inzicht in activiteiten op het platform, wat helpt bij compliance monitoring.

Enthousiasme voor AI binnen Organisaties

• Binnen organisaties zijn er vaak enthousiaste teams die nieuwe technologieën willen verkennen; dit enthousiasme kan anderen aanmoedigen om ook deel te nemen aan AI-projecten.

Digitale Soevereiniteit en Europese Diensten

Volledig Europees Geproduceerd Platform

• Het platform is volledig Europees gebouwd zonder gebruik te maken van Amerikaanse diensten, wat de risico's op juridische complicaties vermindert.

Praktische Toepassingen in Diverse Sectoren

• Voorbeelden uit de zorg tonen aan hoe klanten profiteren van het platform door geen Amerikaanse relaties te hebben, terwijl retailklanten sneller rapportages kunnen genereren via geautomatiseerde koppelingen.

Presentatie en Samenwerking

Introductie en Agenda

• De spreker vraagt collega's om de presentatie te delen met agendatips over samenwerking. Er wordt een vooruitblik gegeven op de komende activiteiten.

• Binnen twee weken is er een bijeenkomst met Sus Idema van New Nexus en Martin Koopmans van Sopra Steria, die zal spreken over Rachs en open source Rachs.

Start-ups en Innovaties

• Daniel Heesen van IO Leaders komt vertellen over coding agents, waarbij AI betrokken is bij softwareontwikkeling.

• Collega Albina zal ook aanwezig zijn om het platform "De learning community AI en overheid" voor te stellen, dat vanuit samenwerking Noord wordt opgezet.

Evenementen in Martini Plaza

• Een evenement in Martini Plaza omvat 12 verschillende kennisnetwerken, waar groepen collega's samenkomen voor presentaties over architectuur, functioneel beheer, digitale transformatie en digitaal samenwerken.

• De spreker benadrukt dat er één of twee keer per week evenementen plaatsvinden, wat een indrukwekkende prestatie is. Alle content wordt beschikbaar gesteld via het kennisnetwerk.

Toekomstige Ontwikkelingen

• Binnenkort wordt de app "Mijn Samenwerking Noord" gelanceerd, waarmee gebruikers toegang hebben tot informatie in de palm van hun hand.