Het grote AInterview
met Lesley Broos

Wat is de rol die Kienhuis Legal wil hebben binnen de ontwikkeling rondom AI?
Wij kijken vooral naar de manier waarop AI wordt gebruikt of ontwikkeld door onze cliënten en welke juridische obstakels zij tegenkomen. Waar worden cliënten die AI willen gebruiken, of AI toepassingen willen ontwikkelen mee geconfronteerd? En hoe kunnen we voorkomen dat cliënten die innovatieve ideeën hebben om bijvoorbeeld processen te verbeteren, worden ontmoedigd, of afgeremd door de regels?

Onze toegevoegde waarde ligt in het bieden van overzicht en inzicht in de juridische aspecten van AI. Het gaat daarin niet alleen om de nieuwe AI-verordening, vervolgt hij. Ook voor die tijd was er al AI en waren er al beperkingen en regels van toepassing, bijvoorbeeld over auteursrecht en over privacy. En dat is nog steeds zo. Met de AI-verordening zijn vooral regels bij gekomen.


Navigeren door complexe regelgeving
Wat komt er samen als je een AI toepassing ontwikkelt, traint en commercieel inzet? Dan heb je het over big data, verwerking van persoonsgegevens, intellectueel eigendom op gebruikte of gecreëerde content, afspraken tussen bedrijven over ontwikkeling en gebruik van software, en soms ook over online geldende mededingingsregels. Dat zijn zaken waarmee wij ons al sinds jaar en dag mee bezig houden. De AI-verordening komt daarbovenop. Het is ons vak om onze cliënten veilig door dit soort complexe regelgeving te loodsen.

Welke consequenties denk je dat AI zal hebben voor jullie cliënten?
Nieuwe regelgeving leidt vaak tot onzekerheid over hoe die precies moet worden toegepast. Ook is vaak nog veel onduidelijk over hoe erop zal worden gehandhaafd. Denk aan de Digital Services Act (DSA) en de Digital Markets Act (DMA), die samen met de Algemene Verordening Gegevensbescherming (AVG) en de nieuwe Europese richtlijn over cyberbeveiliging (NIS2), zorgen voor een steeds ingewikkelder juridisch landschap. Dat maakt het voor bedrijven moeilijk om bij te blijven. Zeker als er ook nog sectorspecifieke regels gelden, zoals in de zorg. Onze vaak innovatieve cliënten worden de laatste jaren overspoeld met nieuwe regels, en naar verwachting komen er nog veel meer bij. Denk bijvoorbeeld aan de nieuwe Europese product aansprakelijkheidsregels die in de maak zijn.


Hoe gaan jullie daar mee om?
Wij willen innovatie stimuleren en ondersteunen onze cliënten in hetgeen zij graag willen bereiken. Van oudsher hebben we veel cliënten in de tech sector, mede dankzij onze locatie op het Business & Science park, aangrenzend aan Universiteit Twente, waar veel innovatieve startups en high-tech bedrijven zijn gevestigd. Die moeten we goed kunnen bedienen en dat doe je onder meer door hen te helpen de nieuwe regels zo efficiënt mogelijk toe te passen. Door duidelijk aan te geven wat onder de nieuwe regels wel en niet mag of onder welke condities, zodat ze er concreet iets mee kunnen. Zeker voor high tech bedrijven wordt het web aan regels steeds complexer. Wij volgen al deze juridische ontwikkelingen op de voet en helpen onze cliënten deze te implementeren in hun producten, werkwijzen en verplichte documentatie.

Er klinkt ook kritiek op Europa, vanwege die vele regels. Wat vind je daarvan?
Er is inderdaad veel kritiek op de strenge regels van de EU, vooral vanuit de tech-industrie. Sommige bedrijven vrezen dat deze regels innovatie belemmeren. Echter, hoewel de nieuwe regel stelsels vaak wel wat eenvoudiger en compacter zouden mogen, is de achterliggende bedoeling om verantwoorde innovatie juist te stimuleren wel waardevol. Het doel van de regelgeving is natuurlijk niet om alle innovatie tegen te houden, maar om verantwoorde innovatie te stimuleren. AI-toepassingen die rekening houden met mensenrechten, privacy en intellectueel eigendom, voegen waarde toe aan de maatschappij. AI-toepassingen die deze fundamentele rechten niet respecteren staan haaks op onze westerse waarden en normen. In Europa zullen toepassingen die aantoonbaar voldoen aan de strenge Europese eisen, waarschijnlijk sneller geadopteerd worden door gebruikers. Meer dan een vergelijkbaar product van bijvoorbeeld een Amerikaanse of Chinese tech-gigant die zich in een regelluwe omgeving heeft kunnen ontwikkelen en niet voldoet aan Europese normen en standaarden. Om die reden denk ik dat de Europese AI-regels er uiteindelijk voor gaan zorgen dat Europese toepassingen op de lange termijn succesvoller zullen zijn, omdat er minder risico’s aan kleven voor zowel de gebruiker als de aanbieder.


Toch zijn er partijen die daardoor twijfelen om hun diensten op de Europese markt uit te rollen.
Dat betekent ook dat je als bedrijf een grote markt mist. Misschien niet de grootste markt, maar wel een vermogende.


Liggen daar nog kansen voor Kienhuis Legal?
Het is wel een doelgroep voor ons ja. Tech bedrijven van buiten Europa die hun producten op een compliant manier op de Europese markt aan de man willen brengen. Die moeten toch snappen aan welke normen ze zich moeten houden. Hun eigen lokale advocaten missen specialistische kennis over Europese regelgeving, terwijl wij ze uitstekend kunnen ondersteunen.


Internationale netwerken
Mede daarom richt Kienhuis Legal zich ook op samenwerking in internationale netwerken zoals Ecovis om ook niet-EU partijen te helpen hun producten compliant te maken voor de Europese markt. Tijdens de laatste meeting in Athene presenteerde mijn collega Roeland de Bruin van Kienhuis Legal een uitgebreid verhaal over de geldende en aankomende Europese regelgeving en hoe niet-EU bedrijven hun producten op een compliant manier op de Europese markt kunnen brengen. Het toont aan dat Kienhuis Legal niet alleen lokaal, maar ook internationaal voorop loopt bij de juridische ontwikkelingen rondom AI.


Lokale juridische hulp
Naast de internationale ambities is Kienhuis Legal ook actief in de regio. We noemden eerder al de nauwe banden met de Universiteit Twente. Met een vestiging op de campus kunnen startups direct aankloppen voor juridische vragen, zoals die rondom octrooien en opbrengsten daarvan. Deze samenwerking zorgt ervoor dat bedrijven van begin af aan compliant zijn, wat essentieel is om juridische problemen te voorkomen.


Wat zie je als de grootste risico’s als het gaat om AI?
De neiging is groot als je iets door AI kunt laten doen, daar dan te snel op te vertrouwen. Een plaatje maken met AI kan niet zoveel kwaad, maar als je je laat ondersteunen in medische analyse, of een rechter zijn uitspraak laat beïnvloeden door iets wat hij in een AI-bot heeft ingevoerd, dan is het een ander verhaal. Het risico is dan dat er te weinig menselijke controle op de uitkomst is op momenten dat die uitkomst er wel erg toe doet in verband met veiligheid of de gezondheid van mensen.

Onwetendheid speelt natuurlijk ook een rol. Als er geen beleid is kunnen er fouten worden gemaakt en rechten worden geschonden. Zo kun je medische gegevens door AI halen om te zien welke conclusies er uit komen, maar dat is wel in strijd met regelgeving als het gaat om privacy. Ook in de toeslagenaffaire kun je zien wat de risico’s zijn van het ontbreken van duidelijk beleid en begrip van regelgeving.

Wat zou je bedrijven aanraden die staan te springen om AI te integreren in hun processen?
Verbieden heeft geen zin, het is er al. En ‘maar wat doen’ gaat op termijn ook problemen opleveren. Bedrijven die AI willen integreren, kunnen het beste een middenweg zoeken: een innovatief team samenstellen, AI-tools testen en vervolgens overleggen met compliance-specialisten om te bepalen wat waarde toevoegt en of en hoe die binnen het bedrijf gebruikt mogen worden. Ons doel is om de mogelijkheden en risico's van AI goed in kaart te brengen, zodat bedrijven verantwoord en succesvol kunnen innoveren.


Hoe kijk je naar de toekomst van AI in de juridische sector?
De toekomst van AI in de juridische sector ziet er veelbelovend uit, hoewel er ook uitdagingen zijn. AI kan waardevolle tools opleveren ook voor de juridische sector, mits die op verantwoorde manier worden ingezet. Binnen Kienhuis Legal houden we dit nauwlettend in de gaten en experimenteren we bijvoorbeeld met AI-ondersteunde zoekfunctionaliteit in juridische databases. Ook ondersteunen we onze cliënten graag bij het inzetten van AI-tools waarmee zij eenvoudige juridische taken zo veel mogelijk zelf kunnen uitvoeren, zodat wij onze focus vooral op de juridisch complexere vraagstukken kunnen richten.


Verandert er nog iets aan de rol van Kienhuis Legal in die toekomst?
Qua inhoud natuurlijk wel. Maar qua visie niet. Verandering moet je omarmen, anders kun je niet voorop blijven lopen. Ik denk dat we met onze specialisten buitengewoon goed gepositioneerd zijn om onze cliënten te helpen navigeren door deze nieuwe juridische landschappen.