Veilig en verantwoord AI-gebruik door werknemers binnen jouw bedrijf

Veel agrarische bedrijven maken gebruik van AI zonder dat het zo wordt genoemd. Denk bijvoorbeeld aan slimme machines en robots, zoals melkrobots en sorteermachines, drones, sensoren en AI-modellen die gewasgroei voorspellen of ziekten detecteren. Maar daarnaast wordt AI ook steeds vaker ingezet bij werving en selectie van personeel, roosterplanning of administratie, of wordt er een vraag gesteld aan een chatbot, zoals ChatGPT. Om ervoor te zorgen dat het AI-gebruik binnen bedrijven veilig en verantwoord gebeurt is de AI-verordening opgesteld. De eerste regels hieruit gelden sinds 2 februari 2025 en dit zal zich stapsgewijs uitbreiden tot 2 augustus 2027. Wat dit betekent voor jouw bedrijf lees je in dit nieuwsbericht.

Risicocategorieën

Voor het correct gebruik van AI in genoemde of soortgelijke machines op jouw bedrijf is de fabrikant verantwoordelijk. Voor het gebruik van AI-systemen binnen jouw bedrijf zelf gaan voor jou als werkgever verplichtingen gelden vanuit de verordening. De verordening maakt onderscheid in verschillende risicocategorieën:

  • Verboden praktijken: Systemen die manipulatief of discriminerend zijn (verboden sinds 2 februari 2025);
  • Hoog risico: Bijvoorbeeld AI-systemen die invloeden hebben op de arbeidsrelatie met jouw werknemer, zoals automatische selectie van personeel en beoordelingssystemen, AI-systemen die prestaties, productiviteit of gedrag van werknemers analyseert of AI-systemen in machines die veiligheid bewaken;
  • Beperkt risico: Systemen die interactie hebben met mensen, zoals chatbots (ChatGPT) of digitale adviseurs;
  • Minimaal risico: Voor ondersteunende AI, zoals een slimme agenda, geldt een minimaal risico.

AI-geletterdheid

Maak je als bedrijf gebruik van AI dan ben je met ingang van 2 februari 2025 verplicht, vanuit de transparantie- en zorgplicht in de verordening, werk te maken van de AI-geletterdheid binnen jouw bedrijf. Onder AI-geletterdheid wordt verstaan: het vermogen om kunstmatige intelligentie (AI) te begrijpen, te gebruiken, te monitoren en er kritisch over te reflecteren. Niet iedereen hoeft over dezelfde AI-geletterdheid te beschikken. Voor werknemers die werken met AI met hoog risico is een ander niveau van AI-geletterdheid wenselijk dan werknemers die werken met AI met beperkt of minimaal risico. Belangrijk is dat je ervoor zorgt dat jouw werknemer weet dat hij met AI werkt en dat hij voldoende kennis en vaardigheden heeft om verantwoord met AI om te gaan:

  • Bij AI met hoog risico; Hier geldt zowel de zorg- als de transparantieplicht en moet je actief werk maken van AI-geletterdheid. Werknemers die werken met deze systemen moeten snappen hoe AI werkt, waar de grenzen liggen, wat de risico’s zijn en hoe menselijk toezicht gegarandeerd blijft. Biedt bijvoorbeeld actief een training aan waarmee zij hun AI-geletterdheid naar het gewenste niveau kunnen brengen.
  • Bij AI met beperkt risico; Hierbij geldt de transparantieplicht en gaat het vooral om transparantie en bewust gebruik. Werknemers moeten begrijpen dat ze met AI praten, en dat ze de output kritisch beoordelen en controleren op juistheid of auteursrechten. Om te zorgen voor het bewuste gebruik van AI met beperkte risico’s, zoals een chatbot, zou je bij gebruik daarvan een melding kunnen laten zien: “Je praat nu met onze AI-assistent. Deze helpt je met veelvoorkomende vragen en kan je doorverwijzen naar de juiste collega als dat nodig is”, of “Deze tekst/afbeelding is tot stand gekomen met behulp van kunstmatige intelligentie (AI). Controleer de inhoud zorgvuldig voordat je deze verder gebruikt.”
  •  Bij AI met laag risico; Hier is een basisbewustzijn belangrijk, er gelden geen verplichtingen. Wel is het verstandig dat werknemers weten dat het AI is en dat uitkomsten niet altijd blind gevolgd kunnen worden. Deze bewustwording zou je bijvoorbeeld kunnen creëren door een korte uitleg over het gebruik van dit soort AI binnen jouw bedrijf op te nemen in het personeelshandboek.

Tips voor werkgevers

Om inzicht te krijgen in wat er binnen jouw bedrijf met AI wordt gedaan is het handig dit in kaart te brengen en houdt het bij. Vooral ook om te weten van welke risico’s er sprake is en welke vorm of welk niveau van AI-geletterdheid er dan gewenst of noodzakelijk is. Leg ook vast in beleid hoe AI mag worden toegepast binnen jouw bedrijf. Daarnaast kan het bij veel gebruik van (hoog risico) AI verstandig zijn iemand aan te wijzen die toezicht houdt op verantwoord gebruik van AI. Beperk het gebruik van gevoelige persoonsgegevens blijf er tot slot voor zorgen dat belangrijke beslissingen altijd door een mens worden genomen.

 

 

 

 

Gerelateerde berichten

Werken met robots en AI

Personeel wordt steeds schaarser en duurder. In de land- en tuinbouw zou robotisering en AI een bijdrage kunnen leveren aan het arbeidsvraagstuk. Dit zijn de voordelen én uitdagingen.