Elbutuláshoz vezethet az MI használata

Sci-fi könyvbe illő fordulat, hogy mi történik, ha a jövőben lekapcsolják a mesterséges intelligenciát (MI). Túlélheti-e egy társadalom, amely már megszokta, hogy mindenben az MI-alkalmazások segítségére támaszkodik. A válasz egyre inkább nemlegesnek tűnik. Vagy megtanuljuk visszagyömöszölni a szellemet a palackba, és (csak) mértékletesen használni az MI-t, vagy az oktatásban hajtunk végre forradalmi változást. Egyik feladat sem tűnik egyszerűnek. Az viszont a tudásalapú társadalom végét jelenti, ha a tudást exportáljuk a gépeknek. Az eredetileg a Portfólión megjelent írás a mesterséges intelligencia diákokra gyakorolt hatását járja körül, szerzője Sziklai R. Balázs a HUN-REN KRTK Közgazdaságtudományi Intézet tudományos főmunkatársa és a Budapesti Corvinus Egyetem docense.

Azt mondják, ha egy nőt megtámadnak, ne azt kiabálja, hogy „Segítség!” hanem, hogy „Tűz van!”, mert úgy nagyobb eséllyel sietnek a segítségére. Mit kiabáljon egy tanár, ha azt látja, hogy egy egész generációnyi diákot fenyeget veszély? Nincsenek illúzióim. Már az oktatás említésével elveszítem az olvasók felét. Az egészségügy, a gazdaság válságban van, a szomszédban háború dúl, szóval az oktatás csak várja ki a sorát.

Már az összeomlás szavunk is elcsépelt. Összeomlott a vasúti közlekedés, a mentésirányítás, a gyermekvédelem, az észak-atlanti áramlat, sőt, ami még rosszabb, a kedvenc közösségi médiás alkalmazásunk is, úgyhogy még ki sem tudjuk posztolni mennyire elegünk van a recsegő-ropogó intézményrendszerekből. Az oktatás már legalább 20 (vagy 30, 40?) éve válságban van és mégis lett két új Nobel-díjasunk (igaz, hogy külföldön, de ez egy régi magyar hagyomány), szóval nincs itt semmi látnivaló.

Mégis baj van. Óriási baj. Olyan nagy, hogy pénzzel nem is lehet megoldani.

Nem az elöregedő és alulfizetett pedagógustársadalomról beszélek, nem is a romló PISA-eredményekről, vagy a mobiltelefonok és TikTok videók miatt csökkenő koncentrációs képességekről, hanem a körülujjongott mesterséges intelligenciáról (MI).

De kezdjük az elején. Forradalom zajlik. A ChatGPT 2022. november 30-án debütált és a megjelenése után mindössze öt nappal már több mint egymillió felhasználóval büszkélkedhetett. Jelenleg a világ lakosságának tizede veszi igénybe a szolgáltatást minden egyes héten. Ráadásul a ChatGPT csak egyike a népszerű nagy nyelvi modelleknek, amelyek az élet minden területére beférkőztek az elmúlt három évben.

Az OpenAI (a ChatGPT megalkotója) 2024 májusában egy elemzést tett közzé, amelyben felmérte, hogy milyen veszélyeket rejthet magában a modelljük. Négy témakört vizsgáltak: kiberbiztonság, biológiai fenyegetések, meggyőzési képesség és a modell autonómiája. A legszembeszökőbb ebben a felsorolásban, hogy az oktatás nincs benne. Fontosabb volt megvizsgálni, hogy egy felturbósított szógenerátor öntudatra ébred-e, mint hogy miként használnak egy ilyen eszközt a fiatalok.

Azóta persze már készültek statisztikák. Sam Altman, az OpenAI vezérigazgatója, idén májusban beszélt arról, hogy a különböző korcsoportok mire használják a modelljüket. Márpedig ők tudják, hiszen minden kérdést látnak. Nos, a nyilatkozata szerint az idősebb felhasználók a Google keresést váltják ki vele, míg a fiatalabbak életvezetési tanácsokat kérnek. Az egyetemisták egyenesen operációs rendszerként használják, mindenben kikérik a gép véleményét. Nem csoda, hogy ragaszkodnak a használatához.

Kísérlet a Corvinuson

A Budapesti Corvinus Egyetemen idén tavasszal egy hallgatói kísérlet zajlott, amelyben a hallgatók felének meg volt engedve a ChatGPT-szerű MI-modellek használata, a másik felének nem. A csoportok között pontkompenzáció volt bevezetve, hogy senkit se érjen hátrányosan a kísérlet. A hallgatók azonban úgy érezték, így sem biztosított az esélyegyenlőség, és a médiához, illetve a felsőoktatásért felelős államtitkárhoz fordultak segítségért. A kísérletet, amelyet egyébként előzetesen megvizsgált és jóváhagyott az egyetem minden lényeges döntési szerve az Etikai Bizottságtól a Hallgatói Önkormányzatig, be kellett szüntetni és az év végi vizsgán már minden hallgatónak meg kellett engedni, hogy használhasson mesterséges intelligencia alapú eszközöket.

De miért tragikus ez? Nagyon fontos lenne megérteni, hogyan fajultak az események idáig és milyen élményeket éltek meg a hallgatók, ez a cikk azonban mégsem erről szól, hanem az eredményről. A hallgatók megkönnyebbülve vették tudomásul, hogy a végső megmérettetésen nem kell a saját kútfőjüket használni.

Az e sorok írója által javított dolgozatok mindegyikét(!), az első szótól az utolsóig(!!) mesterséges intelligencia alkotta.

Félelmetes volt látni, hogy még a legegyszerűbb bemelegítőnek szánt kérdéseket is nyelvi modellekkel válaszolták meg. Egészen bizarr beszélgetések zajlottak a dolgozatok megtekintésekor, amikor a jobb jegy reményében egy-két pontokat jöttek vadászni a hallgatók, és nem tudták megmondani, hol végződött az első feladatra adott válaszuk és hol kezdődött a második.

A kísérlet célja pont annak a felmérése volt, hogy miként hat a hallgatók tanulási szokásaira és tudására az MI-eszközök használata. Bár összehasonlítási alapunk nincs, hiszen a kontrollcsoportnak is meg kellett engedni az MI használatát, a kísérlet mégis sikerrel zárult. Teljes bizonyossággal megállapítható, hogy a hallgatók a tananyag semekkora részét sem sajátították el.

Itt álljunk meg egy pillanatra, mert nem lehet elkerülni, hogy beszéljünk arról, hogy a tárgy tartalmilag milyen témát ölelt fel. A hallgatóknak üzleti feladatokat (például logisztikai problémák, ütemtervek stb.) kellett matematikailag modellezni Python programozási környezetben. A nagy nyelvi modellek kifejezetten jónak mondhatóak ebben a témakörben (legalábbis azon a szinten, ahogy a hallgatók tanulják), hiszen rengeteg gyakorló feladat található ilyen témában az interneten. Bár nem feltétlen teljesítenek kitűnőre, az elégséges jegyet lényegében gond nélkül meg lehet szerezni a használatukkal.

A tudat, hogy védőhálóval dolgoznak minden motivációt kiölt a hallgatókból. Nemhogy a felkészülés során nem fektettek semmiféle erőfeszítést a tanulásba, de a vizsgán sem fordítottak figyelmet arra, hogy milyen válaszokat adnak. Kritikátlanul átmásolták az MI válaszait, még ha az egyértelműen ökörség is volt. Ha két külön megoldást is javasolt a nyelvi modell, akkor biztos, ami biztos mindkettőt átmásolták, mondván az egyik biztosan jó lesz.

Talán a legbeszédesebb a vizsga első húsz percében íratott papír teszt volt, amelyen könnyen eldönthető igaz-hamis kérdésekre kellett válaszolni a hallgatóknak, offline. Az évfolyam átlagos teljesítménye 53 százalék volt, azaz mindössze három százalékponttal sikerült felülmúlni a véletlen pénzfeldobás taktikáját.

Valamit fontos leszögezni. Itt nem arról van szó, hogy egy lusta, vagy buta hallgatócsoportot fogtunk ki. A Budapesti Corvinus Egyetem Gazdaságinformatikus szakjára nem könnyű bekerülni. A hallgatók nagy része maximális vagy ahhoz közeli pontszámmal érkezik, tehát nyugodtan kijelenthetjük, hogy kiváló képességekkel rendelkeznek. Az okokat máshol kell keresni.

Egyrészt mind a matematika, mind a programozás szellemi erőfeszítést igénylő területek. Nehéz ellenállni a kísértésnek, hogy ne kérjünk segítséget az MI-től, ha elakadunk egy feladatban. Az is felmerül a hallgatókban, hogy miért tanulják meg, hogy ha egyszer a gép úgyis jobban tudja (vö. minek tanuljunk meg számolni, ha egyszer úgyis ott a számológép?).

• Ha egy hallgató hajlandó is időt szánni a tanulásra, rögtön elveszíti a kedvét, ha látja, hogy a társai mindenfajta befektetés nélkül, ugyanolyan jó, vagy még jobb jegyet szereznek az MI használatával.
• Az MI eközben a hallgatók önbizalmát is csökkenti, hiszen a programkód, amit eredményül ad, első ránézésre sokkal profibbnak tűnik, mint amit a hallgató saját maga kigondol.
• Végül az MI a hallgatók kíváncsiságát is kikezdi, hiszen az a feladat, amelyet a gép egy gombnyomásra meg tud oldani, az biztos valami mechanikus, izgalomtól és misztikumtól mentes dolog.

Összefoglalva az MI rombolja a motivációt, az önbizalmat és a kíváncsiságot, használata pedig úgy tűnik, hogy könnyen függőséget okoz.

Ez megmagyarázza azt is, hogy a hallgatók miért reagáltak olyan hevesen, amikor a kísérlet során megvontuk tőlük ezt a lehetőséget. Mindez elmélyíti a már sokak által tárgyalt digitális függőség amúgy is súlyos problémáját.

Ez nem a vég kezdete, azon már túl vagyunk. Tisztában vagyok vele, hogy ezek a szavak erősen túlzónak tűnnek, azonban nem csupán a kísérlet tapasztalataiból vonom le ezeket a következtetéseket. A jelek már az ezt megelőző két évfolyam esetében is jelen voltak, és romló tendenciát mutatnak. Árulkodó az a hallgatói panasz is, amit a kísérlettel kapcsolatban fogalmaztak meg a Telex beszámolója szerint: „… nincs az a plusz pont, ami visszaadja azokat a plusz órákat, amiket valaki a tanulással töltött, míg a másik csoport tagjai pár perc alatt végeztek az MI segítségével.”

Ízlelgessük egy kicsit ezt a kijelentést. A hallgató, aki elvileg önszántából, önmaga fejlesztése érdekében jött az egyetemre, azt rója fel, hogy tanulással kellett tölteni az idejét. Az egész évfolyamra jellemző volt, hogy a tudás elsajátítása helyett a megszerzendő érdemjegyre koncentráltak. Itt már bejön az ösztöndíjrendszer hatása is – ez egy komplex kérdés, egy másik alkalommal érdemes lenne ebben is elmélyedni.

Megmérték az agyi aktivitást

Ha az olvasó még mindig nincs meggyőzve az MI veszélyeiről, hadd idézzek egy friss tanulmányt, amelyet a nagy tekintélyű MIT Egyetem (Massachusettsi Műszaki Egyetem – a szerk.) kutatói tettek közzé a minap (a tanulmányról a Portfolio is beszámolt). Kísérletükben 54 bostoni lakost kértek fel, hogy írjanak esszéket. Három csoportra osztották a résztvevőket, az első használhatott MI-eszközöket, a második csak internetes keresőmotorokat, a harmadik pedig csak saját képességeire hagyatkozhatott. A feladat közben EEG-vel mérték a résztvevők agyi aktivitását.

A fentiek alapján talán nem lesz meglepő, hogy

az MI eszközöket használók mutatták a legkisebb agyi aktivitást, és a kísérlet végére teljesen ellustultak.

A harmadik feladatnál már csak szimplán bemásolták a ChatGPT által megírt szöveget. A tanulmány megerősíti azokat a korábbi félelmeket, hogy az MI-eszközök használata csökkenti a kritikus gondolkodást, és főleg a fejlődő agyú fiatalok vannak veszélyben. (Lásd az alábbi friss tanulmányt ebben a témában.) 

Ezen a ponton abbahagyom az MI káros hatásainak ecsetelését. Az olvasók legyinthetnek, hogy ezek egy begyöpösödött, újdonságot elfogadni képtelen tanár panaszai csupán. A valóság pont ennek az ellenkezője. Kollégáimmal az elsők között építettük be a tananyagba az MI-alkalmazásokat. Lehet erre azt felelni, hogy csak értelmesen kéne tanítani az MI-t, a fegyelmező oktatásnak befellegzett. Ez a kétségkívül rosszul hangzó fegyelmező oktatás tette azonban lehetővé, hogy ezt a cikket a telefonjukon elolvassák, sőt a nagy nyelvi modelleket is olyan kutatók fejlesztették ki, akiket ezzel az „elavult” módszerrel tanítottak. Hogy az MI-vel felmankósított mai hallgatók mire lesznek képesek, azt még senki nem tudja.

Most képzeljünk el gondolatban egy teljes generációt, amelyből kilúgoztak minden tudásvágyat és kíváncsiságot, földbe döngölték az önbizalmát és kiszívták a motivációt. Ez nem egy távoli lehetőség, hanem egy folyamat, ami jelenleg aktívan zajlik az oktatás minden szintjén, az általános iskolától az egyetemig. Ne legyenek illúzióink. Ott tartunk, hogy ha egy középiskolás diáktól megkérdezzük, hogy milyen érzéseket vált ki belőle József Attila Tiszta Szívvel című verse, akkor azt be fogja ütni a ChatGPT-be, és megkérdezi tőle.

Bizonyosan tudom, hogy néhány kollégám számára és a diákok többségének is az itt leírtak teljesen nyilvánvaló, közhelyesen unalmas tények. Az olvasók zöme viszont alighanem vészmadárkodásnak, fölösleges rémisztgetésnek tartja a dolgot. Bár igazuk lenne. Mégis, ha tényként fogadjuk el az itt leírtakat, mit lehet tenni? Az MI itt van velünk és itt is fog maradni. Ez a probléma nem fog eltűnni, még ha hirtelenjében számolatlanul el is kezdjük önteni a pénzt a közoktatásra – ami persze mindentől eltekintve, nem is lenne rossz ötlet. Ezt csakis minden érintett összefogásával (tanár, diák, szülő, jogalkotó) és a probléma tudatosításával lehet megközelíteni.

Első körben fontos lenne, ha a döntéshozó és jogalkotó szervek bátorítóan állnának hozzá az MI oktatásban betöltött szerepének kutatásához. A hallgatói kísérletek elengedhetetlenek ahhoz, hogy megértsük pontosan milyen hatások érvényesülnek. Az államtitkári határozat bár csak egy kísérletről mondott véleményt, de precedenst teremtett. Az egyetemek érthetően megpróbálnak elébe menni, az ilyen határozatoknak és a nem kívánt médiafigyelemnek. Ezt csak úgy lehet orvosolni, ha a jogalkotó és ellenőrző szervek a döntéseikkel és megnyilvánulásaikkal támogatásukról biztosítják az érintett egyetemeket és kutatóintézeteket.

Jó, de mit tehetek én?

Most még többségben vannak azok, akik a technológiai fejlődés legújabb csúcsteljesítményeként üdvözlik a nagy nyelvi modelleket, és bizonyos tekintetben igazuk is van. Az MI-alkalmazások a szakértelemmel rendelkező felhasználók hatékonyságát valóban nagymértékben növelik.

Mai ésszel felfoghatatlan, de a cigarettát a 19. század végén és a 20. század elején még gyógyhatású készítményként tartották számon. Kiemelték a dohányzás stresszoldó hatását és étvágycsökkentő szerepét, ami a fogyókúrázásban nyújthat segítséget. Csak a múlt század 50-es, 60-as éveitől kezdve kerültek elő a tudományos bizonyítékok a dohányzásnak a tüdőrák, szív- és érrendszeri betegségek kialakulásában betöltött szerepéről.

Ahogy a cigarettás dobozra kötelező kiírni, hogy a dohányzás tüdőrákot okoz, úgy az MI eszközökön is fel kéne tüntetni, hogy használatuk elbutuláshoz vezet.

Lehet, hogy egy-két generáció múlva ciki lesz olyan sablonos stílusban írni, mint amit a nagy nyelvi modellek használnak, de amíg nem születik meg egy közmegegyezés a korlátozásukról (lásd a mobiltelefonok betiltásának jótékony hatását), illetve a megfelelő használatukról, csak egyéni szinten fogunk tudni tenni valamit ellene. Mi magunk eldönthetjük – ha van akaraterőnk – hogy milyen mértékben támaszkodunk az MI-eszközökre, és odafigyelhetünk, hogy gyerekeink mértékletesen éljenek vele.

Sziklai R. Balázs a HUN-REN KRTK Közgazdaságtudományi Intézet tudományos főmunkatársa és a Budapesti Corvinus Egyetem docense

„A hír szent, a vélemény szabad”. Ez egy véleménycikk, amely nem feltétlenül tükrözi a szerkesztőség álláspontját.