Verantwoord gebruik van AI bij E-WISE
AI maakt het mogelijk om de kennis van E-WISE op nieuwe manieren beschikbaar te maken. De digitale collega is daar een voorbeeld van. Een professional kan een situatie voorleggen en krijgt ondersteuning op basis van relevante kennis en context.
Daarbij willen we niet alleen laten zien wat AI mogelijk maakt. We willen ook duidelijk zijn over hoe we ermee omgaan. Waar haalt de digitale collega informatie vandaan? Wat gebeurt er met een gesprek? En wat mag je wel en niet van de technologie verwachten?
Op deze pagina leggen we onze keuzes uit.
Betrouwbare kennis als vertrekpunt
De digitale collega begint bij de situatie die een professional voorlegt. Soms is daarvoor eerst meer informatie nodig. Door vragen te stellen ontstaat een duidelijk beeld van wat er speelt.
Vervolgens zoekt de digitale collega naar kennis die daarbij past. Hiervoor gebruiken we het cursusaanbod van E-WISE en externe Nederlandse bronnen die we hebben geselecteerd en gevalideerd. We nemen externe informatie dus niet zomaar over.
Bij een antwoord worden relevante bronnen getoond. Zo blijft zichtbaar waarop de informatie is gebaseerd en kan een professional zelf verder lezen.
De professional houdt de regie
De digitale collega helpt om een situatie te verhelderen en kennis te vinden, met als doel mogelijke vervolgstappen voor te leggen. Wat iemand vervolgens doet, blijft een professionele afweging.
Daarom zijn er ook duidelijke grenzen aan wat de digitale collega doet. Hij neemt geen zelfstandige beslissingen over leerlingen of medewerkers en wordt niet gebruikt om medewerkers te beoordelen. Ook stelt hij geen medische, psychologische of orthopedagogische diagnoses.
Bij complexe of gevoelige situaties kan andere expertise nodig zijn. In acute of onveilige situaties is de digitale collega geen vervanging voor de hulp die op dat moment nodig is.
Persoonlijke gesprekken blijven persoonlijk
Een gesprek met de digitale collega is persoonlijk. Schoolleiders en andere gebruikers krijgen geen inzicht in wat een individuele medewerker heeft gevraagd of welke antwoorden diegene heeft gekregen.
We vragen professionals om geen namen of andere direct herleidbare persoonsgegevens van leerlingen, ouders, collega's of andere betrokkenen in te voeren.
Gesprekken met de digitale collega en content van E-WISE worden niet gebruikt om openbare of algemeen beschikbare AI-modellen te trainen. Persoonsgegevens worden primair binnen de Europese Unie opgeslagen en verwerkt.
Beveiliging achter de schermen
Gegevens worden tijdens verzending en opslag versleuteld. De toegang tot de digitale collega en de achterliggende systemen wordt beschermd met authenticatie en toegangsbeheer.
Ook bij databaseverbindingen, deployments, logging en analytics nemen we maatregelen om gegevens goed te beschermen.
Blijven controleren en verbeteren
AI kan fouten maken. Een antwoord kan onvolledig zijn of minder goed bij een situatie passen. Daar houden we bij de ontwikkeling van de digitale collega rekening mee.
Nieuwe modellen en technische versies worden getest voordat we ze toegankelijk maken voor onze klanten. Ook daarna blijven we de uitkomsten controleren. Feedback van gebruikers en vakexperts helpen ons om fouten en kennishiaten te herkennen en verbeteringen door te voeren.
Als er onvoldoende betrouwbare informatie beschikbaar is, richten we de digitale collega zo in dat die onzekerheid aangeeft.
AVG en Europese AI-regelgeving
Bij het verwerken van persoonsgegevens werken we vanuit de uitgangspunten van de AVG wetgeving. We kijken daarbij naar waarom gegevens nodig zijn, hoe lang ze worden bewaard en welke rechten gebruikers hebben.
Ook volgen we de ontwikkeling en toepassing van de Europese AI Act. We beoordelen welke verplichtingen voor onze AI-toepassingen gelden en passen onze werkwijze aan wanneer dat nodig is.
De technologie achter de digitale collega
E-WISE bouwt geen eigen foundation model. Voor de digitale collega gebruiken we geselecteerde AI-modellen via gecontroleerde AI-inferentieservices.
Het AI-model is daarbij één onderdeel van de werking. Om een situatie te verbinden aan relevante E-WISE-kennis en bronnen gebruiken we onder andere retrieval, prompts en guardrails. Daarnaast zijn er controles ingericht voor bronselectie en de kwaliteit van de uitkomsten.
Voor een deel van de kennisbank- en retrievalfunctionaliteit gebruiken we EU-gebaseerde infrastructuur van Amazon Bedrock.
Meer weten?
Heb je voor jullie organisatie aanvullende informatie nodig over onze inzet van AI en de daarbij behorende privacy of beveiliging? Neem dan contact met ons op.