Het benutten van de kracht van AI, zonder je organisatie te laten ontsporen op privacy en compliance

2 oktober was Kai van den Berg (Chief AI bij DTX) te gast bij Privacy Inside, georganiseerd door Lefebvre Sdu. Daar nam hij plaats op de stoel bij Reny Stark om te praten over “het benutten van de kracht van AI, zonder je organisatie te laten ontsporen op privacy en compliance.” Een super actueel en belangrijk onderwerp waar veel organisaties op dit moment mee bezig zijn.

AI is hot. Iedereen praat erover, iedereen experimenteert ermee en voor je het weet draait er ergens in de organisatie een slimme tool die meer weet dan je eigen collega’s. Maar hoe zorg je dat je als organisatie niet in de valkuilen van Shadow AI en privacyproblemen trapt? Tijd voor een nuchtere blik.

Wat is Shadow AI eigenlijk?

Shadow AI is het gebruik van AI-tools buiten het zicht van IT of compliance. Denk aan medewerkers die ChatGPT, Copilot of andere slimme tools gebruiken zonder dat iemand weet welke data erin wordt geplakt. Handig? Zeker. Risicovol? Absoluut! Shadow AI kan leiden tot datalekken, compliance-issues en zelfs reputatieschade.

Waarom?
Heel simpel: mensen zoeken altijd naar oplossingen en efficiëntie. AI-tools bieden dat, of claimen dat in elk geval volop. Maar als je niet weet waar je je data laat, loop je risico’s. Omarm daarom ook deze initiatieven en verdiep je in waarom dit gebeurd. In het kort. Haal ze uit de schaduw. Alleen dan kun je als organisatie echt grip krijgen op innovatie én veiligheid.

Maar hoe kun je AI dan uit die schaduw halen en het benutten zonder risico’s te lopen?

Hierover spraken Reny en Kai. Aan de hand van praktijkvoorbeelden, diverse vragen en het gewoonweg duidelijk met elkaar benoemen van risico’s en mogelijke oplossingen hiervoor.

Een greep uit de vragen die voorbij kwamen vind je hieronder:

1. Heb je praktische voorbeelden van AI oplossingen?

• Een AI-agent die binnenkomende e-mails classificeert en automatisch doorstuurt naar het juiste systeem.
• Een AI-agent in een Security Operations Center (SOC) die zelfstandig alerts analyseert en opvolgt.
• Een AI-agent die offertes samenstelt door informatie uit PDF’s, e-mails en chats te halen, en ontbrekende info automatisch opvraagt bij de juiste

2. Wat zijn de Do’s & Don’ts voor organisaties die met AI starten?

Do:

• Begin klein. Test AI eerst in een veilige, afgebakende omgeving.
• Experimenteer, leer en deel ervaringen. Bewustwording ontstaat door te doen.
• Neem beleid en veiligheid mee in elke stap van je ontwikkeling.

Don’t:

• Koop niet allerlei losse AI-tooling die gouden bergen belooft.
• Zie AI niet als magische oplossing voor alles. Het begint bij een goede basis: beleid, data en informatiehuishouding.

3. Wie is eigenlijk verantwoordelijk voor AI? De board, IT of Legal?
Allemaal wat mij betreft. De board bepaalt de visie, IT zorgt voor de juiste tools en monitoring, en Legal bewaakt beleid en naleving. Maak domeinexperts eigenaar van de content die AI gebruikt en laat ze zelf toetsen wat er gebeurt.

4. Hoe zorg je voor transparantie en uitlegbaarheid in het gebruik van AI?
Betrek gebruikers bij de ontwikkeling van AI. Maak definities en regels duidelijk en zorg dat AI geen ‘black box’ blijft. Zie een AI-agent als een collega: review de output, stuur bij waar nodig.

5. Hoe kijk je naar AI als strategische keuze?
AI is here to stay. Organisaties moeten er iets mee: AI is geen tool, maar een strategische keuze in de bedrijfsvoering. Begin met kleine, concrete projecten en neem privacy by design direct mee in elk AI-initiatief.

6. Hoe organisaties werken met AI over 5 jaar?
Ik denk dat over vijf jaar elke organisatie met AI werkt in meer en mindere mate, soms niet eens meer bewust. Van het verrijken van bestaande werkzaamheden tot het volledig vervangen van bepaalde taken.

Tip aan Leiderschap en cultuur
Maak je bedrijf en je team bewust van de mogelijkheden, maar ook de risico’s, geef trainingen en koppel privacy en security direct aan AI-projecten. En voor bestuurders die net beginnen: durf te experimenteren, maar doe het verantwoord en transparant.