For English / voor Engels: The ChatGPT hype

De afgelopen weken stond social media vol met de nieuwste technologiehype die ons onderwijs op zijn kop gaat zetten: ChatGPT. Met een achtergrond in AI en jaren werkervaring in het hoger onderwijs verbaasde ik me over de grootse statements en het ontbreken van echte kwalitatieve voorbeelden van de inzet van de applicatie in het onderwijs. Zelfs de risicoanalyses die soms, veelal als voetnoot, langs komen gaan snel voorbij aan het grootste probleem: ChatGPT is niks meer dan een krachtige bullshit generator. Dit verklaart de populariteit ervan op social media, maar dat men deze technologie als baanbrekend ziet wekt bij mij vooral zorgen over de hoeveelheid bullshit in ons onderwijs en erbuiten.

In deze blog kijken we wat ChatGPT is en vooral ook niet is. Ik hoop hiermee wat meer realisme te brengen in de discussie over de inzet van ChatGPT in het onderwijs.

ChatGPT

ChatGPT is een taalmodel. Dit betekent dat het op basis van een reeks woorden, bijvoorbeeld een gestelde vraag, een voorspelling kan doen over welk woord moet volgen [1]. Deze systemen zijn niet nieuw en kennen we bijvoorbeeld ook van de woordsuggesties op onze mobiel. ChatGPT is echter velen malen krachtiger en heel erg goed in het voorspellen van woorden. De applicatie is zo krachtig dat er nu talloze voorbeelden zijn te vinden van interessante gesprekken met de chatbot (bijvoorbeeld: [3]).

Het is essentieel om te realiseren, en dit wordt vaak overkeken in de posts die social media overstromen, dat het voorspellen van woorden ook het enige is wat ChatGPT kan. Een algemene AI, die een schaakpot kan winnen van een grootmeester en ook een tosti kan bakken, is nog steeds ver weg [2]. Doordat ChatGPT alleen kan voorspellen wat de volgende woorden zijn in een tekst, stellen wij aan ChatGPT eigenlijk andere vragen dan we denken. Als we in ChatGPT de vraag typen ‘wie was de eerste man op de maan?’, dan vragen wij eigenlijk ‘gegeven de statistische distributie van woorden in het uitgebreide publieke corpus van (Nederlandse) teksten, welke woorden zijn het meest waarschijnlijk dat die volgen op de woordenreeks “Wie was de eerste man op de maan?” [12]. Dat ChatGPT reageert met “Neil Armstrong” en veel mensen dit toekennen als feitelijke kennis van ChatGPT over de geschiedenis is een grote interpretatiefout. Deze interpretatiefout wordt nog duidelijker als we de vraag vervangen voor ‘hoeveel is 5+5?’.
Zoals we in het onderwijs weten gaat het bij kennis niet alleen om of een antwoord correct is, maar ook hoe het antwoord tot stand is gekomen. Weten dat na 5+5 meestal 10 volgt is iets anders dan 5+5 berekenen. Het is dan ook niet gek ChatGPT veel fouten maakt.

ChatGPT en Bullshit
ChatGPT kan dus heel goed woorden voorspellen, maar kan bijvoorbeeld niet rekenen [6, 7], programmeren [14], netjes omgaan met bronnen [8, 9, 10] of worden toevertrouwd om te vertellen over onze geschiedenis [16]. ChatGPT dankt dus vooral zijn succes aan dat het mensen ervan weet te overtuigen dat het betekenisvolle antwoorden geeft [4]. Immers, ChatGPT heeft zelf geen idee of zijn antwoorden wel of niet de waarheid zijn. Er zijn talloze voorbeelden te vinden dat ChatGPT fouten maakt, maar het probleem is niet dat ChatGPT af en toe een onwaarheid vertelt. Het probleem is dat ChatGPT niet geeft om of het een waarheid of onwaarheid vertelt [13, 11]. De Amerikaanse filosoof Harry G. Frankfurt beschrijft dit gedrag als bullshitting en ziet dit als een grotere bedreiging dan de leugen:

“Een leugenaar geeft om de waarheid en probeert het te verstoppen; de bullshitter geeft er niet om of wat hij/zij zegt waar is of onwaar, maar geeft alleen om of de luisteraar overtuigd is.” [5]

Leugenaars zijn dus actief bezig met de waarheid, terwijl bullshitters de waarheid volledig negeren.

Harry G. Frankfurt beschrijft ook dat mensen bullshit, ondanks dat het schadelijker is, gek genoeg eerder accepteren dan een leugen. Dat de makers van ChatGPT deze lijn ook proberen te bewandelen is duidelijk in hoe ChatGPT heeft “geleerd” van zijn fouten. Zo krijg je op dit moment alleen nog een afwijzende reactie als je hem vraagt om een vals wiskundig bewijs, verzonnen referenties of gewoonweg om een leugen. Duidelijke leugens die ChatGPT eerst gevraagd en ongevraagd(!) maakte. Dit betekent niet dat ChatGPT deze fouten niet meer maakt. Ze zijn alleen dieper verstopt in de bullshit [10].

ChatGPT, bullshit en onderwijs.
In de discussie of ChatGPT baanbrekend voor het onderwijs is, moeten we ons vooral afvragen welke rol bullshit in ons onderwijs (en onze maatschappij) heeft. Wat zegt het over het (toekomstige) werkveld van een student dat een taak (zoals een social media post schrijven) ook gedaan kan worden door een bullshit generator? Maar bovenal, wat zegt het over de opdrachten die we aan onze studenten geven als wij bang zijn dat een bullshitgenerator er een voldoende op scoort?

De antwoorden op deze vragen nemen niet weg dat er een mogelijke inzet is voor ChatGPT. Op zijn minst is het een goede manier om studenten kennis te laten maken met de (on)mogelijkheden van AI. Het OOK-team denkt graag mee over de AI-vraagstukken binnen de HAN.

Meer informatie over AI in het onderwijs op:
https://www.han.nl/onderwijsondersteuning/leren-werken-met-ict/artificial-intelligence/

Referenties:

[1] T. van Osch, “From Eliza to ChatGPT: the stormy development of language models”, surf.nl, https://communities.surf.nl/en/artificial-intelligence/article/from-eliza-to-chatgpt-the-stormy-development-of-language-models (Bezocht op 11 januari 2023)

[2] N. Kasteleijn, “’Computer verslaat grootmeester bordspel, maar kan geen tosti maken’”, nos.nl, https://nos.nl/artikel/2175632-computer-verslaat-grootmeester-bordspel-maar-kan-geen-tosti-maken (Bezocht op 11 januari 2023)

[3] M. J. White, “Top 10 Most Insane Things ChatGPT Has Done This Week”, springboard.com, https://www.springboard.com/blog/news/chatgpt-revolution/ (Bezocht op 11 januari 2023)

[4] G.N. Smith, “An AI that can “write” is feeding delusions about how smart artificial intelligence really is”, salon.com, https://www.salon.com/2023/01/01/an-ai-that-can-write-is-feeding-delusions-about-how-smart-artificial-intelligence-really-is/ (Bezocht op 11 januari 2023)

[5] H. G. Frankfurt, “On bullshit”, Princeton University Press, 2009. (Aanrader om te lezen! Er is een samenvatting op Wikipedia: https://en.wikipedia.org/wiki/On_Bullshit )

[6] “Why is ChatGPT bad at math?”, stackoverflow.com, https://ai.stackexchange.com/questions/38220/why-is-chatgpt-bad-at-math (Bezocht op 11 januari 2023)

[7] Sekhar M, “Arguing With AI Over A Mathematics Problem — Meet ChatGPT “, medium.com, https://medium.com/mlearning-ai/arguing-with-ai-over-a-mathematics-problem-meet-chatgpt-c8c1ceb9b264 (Bezocht op 1 januari 2023)

[8] “ChatGPT produces made-up nonexistent references”, ycombinator.com, https://news.ycombinator.com/item?id=33841672 (Bezocht op 11 januari 2023)

[9] “ChatGPT returns incorrect academic references. Help.”, reddit.com, https://www.reddit.com/r/ChatGPT/comments/zpgayt/chatgpt_returns_incorrect_academic_references_help/ (Bezocht op 11 januari 2023)

[10] T. Hirst, “Information Literacy and Generating Fake Citations and Abstracts With ChatGPT”, ouseful.info, https://blog.ouseful.info/2022/12/16/information-litteracy-and-generating-fake-citations-and-abstracts-with-chatgpt/ (Bezocht op 11 januari 2023)

[11] T. Kubacka, twitter.com, https://twitter.com/paniterka_ch/status/1599893718214901760 (Bezocht op 1 januari 2023)

[12] M. Shanahan,  “Talking About Large Language Models.” arXiv preprint arXiv:2212.03551 (2022). (https://arxiv.org/pdf/2212.03551.pdf)

[13] R. Goodwins, “ChatGPT has mastered the confidence trick, and that’s a terrible look for AI”, theregister.com, https://www.theregister.com/2022/12/12/chatgpt_has_mastered_the_confidence/ (Bezocht op 11 januari 2023)

[14] B. Vigliarolo, “Stack Overflow bans ChatGPT as ‘substantially harmful’ for coding issues”, theregister.com, https://www.theregister.com/2022/12/05/stack_overflow_bans_chatgpt/ (Bezocht op 11 januari 2023)

[15] T. Ansari, “Freaky ChatGPT Fails That Caught Our Eyes!”, analyticsindiamag.com, https://analyticsindiamag.com/freaky-chatgpt-fails-that-caught-our-eyes/  (Bezocht op 11 januari 2023)

[16] B. L. Turner, twitter.com, https://twitter.com/bltphd/status/1599806815146893313 (Bezocht op 11 januari 2023)

[17] Afbeelding bij de blog is genereerd door Midjourney. De afbeelding is beschikbaar onder Creative Commons Noncommercial 4.0 Attribution International License. (https://midjourney.gitbook.io/docs/terms-of-service#4.-copyright-and-trademark).

Met uitzondering van de afbeelding valt dit werk onder een Creative Commons Naamsvermelding 4.0 Internationaal-licentie.