ChatGPT als ghostwriter
Over Rechtsprekers
Recht doen aan de praktijk en het verschil maken voor de praktijk!
Blijf op de hoogte
Heel Nederland lijkt in de ban van het Amerikaanse AI-programma ChatGPT, een chatbot die met behulp van zelflerende algoritmen dialogen met menselijke gebruikers kan voeren.[1] Vooral onder scholieren en studenten is de online vraagbaak populair.[2] Docenten en AI-experts zijn daarentegen verdeeld over het gebruik van het taalmodel en wijzen op de gevaren van fraude en plagiaat. Tevens waarschuwen zij voor mogelijke privacyschendingen.[3]
Fraude en plagiaat
Scholieren gebruiken de chatbot bij het schrijven van complete verslagen, werkstukken en essays, maar ook bij het schrijven van losse alinea’s en het beantwoorden van deelvragen komt de chatbot goed van pas.[4] Ook studenten raadplegen de chatbot regelmatig, maar niet geheel zonder risico. Zo zijn in Maastricht tachtig studenten van de opleiding Business Engineering (van SBE en FSE) beschuldigd van fraude nadat zij precies dezelfde computercode inleverden.[5] Docenten van de opleiding vonden het verdacht dat zoveel studenten op dezelfde code uitkwamen. Of hiermee gezegd is dat ook daadwerkelijk sprake is van plagiaat staat nog niet vast.
Vaak is het echter lastig te achterhalen of gebruik is gemaakt van de chatbot. De bestaande plagiaatdetectie staat machteloos tegenover ChatGPT. De plagiaatdetectie werkt door te kijken of de inhoud van teksten voorkomt in andere scripties, wetenschappelijke publicaties en diverse bronnen op het internet. Het probleem met het dicteren van plagiaat is dat ChatGPT zelf teksten genereert, die niet elders identiek zijn terug te vinden. Daarnaast ontbreken voetnoten en andere vormen van bronvermelding.[6]
Indien een docent het vermoeden heeft dat gebruik is gemaakt van ChatGPT, kan de docent het desbetreffende stukje kopiëren en plakken in het ChatGPT programma met de vraag: ‘Heb jij dit stukje geschreven?’. Wanneer ChatGPT dat stukje heeft geschreven, zal dit desgevraagd door ChatGPT worden bevestigd. Dit zou een manier kunnen zijn waarop plagiaat met gebruikmaking van ChatGPT kan worden vastgesteld, maar hoe betrouwbaar de uitkomst is valt niet met zekerheid te zeggen.
Privacy & IE-rechten
Naast de zorgen om fraude en plagiaat, wijzen AI-experts op de privacyrisico’s die het gebruik van ChatGPT met zich brengt.[7] Er kunnen verschillende privacy gerelateerde problemen aan de chatbot kleven.[8] Ten eerste heeft OpenAI, het bedrijf achter ChatGPT, geen toestemming gekregen om gebruik te maken van alle door haar geraadpleegde data. Een mogelijke inbreuk op de privacy en IE-rechten ligt zodoende op de loer. Dit geldt met name voor data die gevoelige informatie bevat, zoals persoonsgegevens. Daarnaast biedt OpenAI haar gebruikers geen mogelijkheid om te checken of het bedrijf hun informatie opslaat, zo wordt bijvoorbeeld geen gebruik gemaakt van cookies.
In Nederland geldt de Algemene Verordening Gegevensbescherming (AVG) die organisaties opdracht geeft om zorgvuldig om te gaan met (digitale) persoonsgegevens. De methode die OpenAI gebruikt om de gegevens te verzamelen waarop ChatGPT is gebaseerd, is niet bekend.[9] Het is dus nog maar de vraag of OpenAI zich hieraan houdt.
Verschillende Europese bedrijven en overheden hebben hun zorgen over de chatbot geuit. Het Europese orgaan dat toezicht houdt op de gegevensbescherming van lidstaten is voornemens een ‘task force’ op te zetten om de privacyrisico’s van ChatGPT nader te laten onderzoeken.[10]
In Italië is het gebruik van ChatGPT tijdelijk verboden geweest. Het OpenAI bedrijf zou zich volgens de Italiaanse privacytoezichthouder niet houden aan de regels voor vergaring van persoonsgegevens.[11] Ook Frankrijk heeft een onderzoek ingesteld naar de gevaren omtrent privacy van ChatGPT. Volgens de Franse privacywaakhond CNIL zouden al meerdere klachten over privacyschendingen zijn binnengekomen.[12]
Conclusie
Het gebruik van ChatGPT kan handig zijn. Veel scholieren en studenten gebruiken de chatbot voor hun schoolopdrachten. Er zitten echter ook gevaren aan. Zo zou ChatGPT volgens sommige docenten fraude en plagiaat in de hand werken en wijzen experts op de potentiële privacyrisico’s die het gebruik van de chat mogelijk met zich brengt.
Er is nog geen betrouwbare manier gevonden om plagiaat van ChatGPT vast te stellen. Tot die tijd zal een beroep moeten worden gedaan op de creativiteit van docenten om frauderisico’s te ondervangen. Sommige docenten laten hun leerlingen tentamens weer met de hand maken of willen dat studenten hun werk mondeling toelichten.
Met betrekking tot de privacyrisico’s en IE-schendingen bestaat nog veel onduidelijkheid. Op grond van nationale en internationale wet- en regelgeving dient OpenAI zorgvuldig om te gaan met data, waaronder persoonsgegevens, maar door gebrek aan openbaarheid is daar nog niet veel over te zeggen.
Duidelijk is dat politiek Den Haag in ieder geval niet meer om de chatbot heen kan.[13] Op 19 april 2023 heeft de commissie voor Digitale Zaken zelfs een masterclass over de chatbot ChatGPT georganiseerd.[14] Zou er in Nederland ook een verbod komen op de chatbot? Of moeten we ChatGPT met open armen ontvangen? Dat zijn vragen waar hopelijk snel een antwoord op komt.
Meer informatie
Geïnteresseerd in het onderwijsrecht en in de mogelijke (toekomstige) juridische problematiek omtrent ChatGPT? Schrijf u dan nu in voor de Leergang Onderwijsrecht. In de Leergang worden alle relevante facetten van het onderwijsrecht besproken, waaronder fraude en plagiaat. Kijk voor meer informatie op onze site of neem contact op via info@rechtsprekers.nl.
—————————————————————————————
[1] ‘ChatGPT: zijn wij juristen nog nodig?’, rechtencircuit.nl, 8 maart 2023.
[2] ‘Chatbot ChatGPT bereikt bijna anderhalf miljoen personen in Nederland’, GfK, gfk.com, 14 april 2023.
[3] ‘De chatbot is niet te stoppen (en docenten zijn verdeeld over wat ze moeten doen)’, Mare, mareonline.nl, 2 februari 2023.
[4] ‘ChatGPT glipt langs docenten: ‘Ik gebruik het om snel huiswerk te maken’’, NOS, nos.nl, 16 januari 2023.
[5] ‘Hoeveel ChatGPT-fraude hebben de examencommissies al ontvangen?’, Observant, observantonline.nl, 15 maart 2023.
[6] ‘ChatGPT glipt langs docenten: ‘Ik gebruik het om snel huiswerk te maken’’, NOS, nos.nl, 16 januari 2023.
[7] ‘Experts en ondernemers waarschuwen voor de gevaren van AI’, FD, fd.nl, 29 maart 2023.
[8] ‘ChatGPT is a data privacy nightmare. If you’ve ever posted online, you ought to be concerned’, theconversation.com, 10 februari 2023.
[9] ‘ChatGPT vs AVG – wat AI-chatbots betekenen voor gegevensprivacy’, alta-ict.nl, 10 februari 2023.
[10] ‘European privacy watchdog creates ChatGPT task force’, Reuters, reuters.com, 14 april 2023.
[11] ‘Italië trekt voorlopig stekker uit chatbot ChatGPT’, NOS, nos.nl, 31 maart 2023.
[12] ‘Franse privacywaakhond start ook onderzoek naar ChatGPT’, RTL Nieuws, rtlnieuws.nl, 12 april 2023.
[13] Aanhangsel Handelingen II 2022/23, nr. 2037.
[14] ‘Masterclass over toepassingen en gevolgen van ChatGPT’, tweedekamer.nl, 18 april 2023.
