Bij het gebruik van zoekmachines moeten studenten de zoekresultatenpagina’s doorzoeken en op basis van criteria beslissen of een bron de moeite waard was om te verkennen. Eenmaal op de website, evalueer je kritisch de betrouwbaarheid van de informatie op de site en de achtergrond van de auteur(s).
Met de komst van generatieve AI is het echter niet altijd meer herleidbaar waar de informatie vandaan komt.
Wat je altijd goed moet controleren:
Hiernaast bestaat er ook het risico dat het systeem ‘hallucineert’, ofwel onjuiste of verzonnen informatie genereert, terwijl het dit in zeer overtuigende taal presenteert. Je moet op de hoogte zijn van deze risico’s en leren om de antwoorden van bijvoorbeeld CoPilot kritisch te evalueren.
Bias in relatie tot Gen AI
Met bias wordt het volgende bedoeld: een bewuste of onbewuste vooringenomenheid, uitgangspunt of vooroordeel in denken en handelen die kan voorkomen in onder andere de psychologie, geneeskunde, wetenschap, politiek en recht. Bias bij Gen AI verwijst naar de systematische en oneerlijke vooroordelen die kunnen ontstaan in AI-systemen. Deze bias kan resulteren uit de data waarop AI-modellen worden getraind, de manier waarop algoritmes zijn geprogrammeerd, of zelfs de context waarin ze worden toegepast. Het gevaar van Gen AI-bias is dat het kan leiden tot discriminatie, hetzij direct of indirect, wat vooral zorgwekkend is in gebieden zoals kredietverlening, rekrutering, rechtshandhaving en gezondheidszorg.