Hibátlanul puffogtatja a közhelyeit és nem létező szerzőkre hivatkozik.
A ChatGPT csodás dolgokra képes: hibátlan, szépen megfogalmazott emberi szöveget generál bármiről, amire megkérik. A mesterséges intelligencia tudása miatt megkondult a harang az újságírószakma felett. Elon Musk és sokan mások temették az iskolai és egyetemi fogalmazásokat, illetve esszéket, amiket immár egy perc alatt megír helyettünk a szoftver.
A kérdés csak annyi, hogy a közönség, vagyis a tanár, felismeri-e, hogy mi történik. A válasz: nagyon könnyen rájönnek, hogy nem diák írta a szöveget.
A Vice által megszólaltatott egyetemi professzorok elmondták, hogy pár találkozás után már gyorsan kiszúrják, hogy generált szöveget olvasnak. A probléma ott kezdődik, hogy a mesterséges intelligencia által írt dolgozatok egyszerűen rosszak.
Az első jel, hogy a helyesen megírt mondatok ellenére valahogy nem volt értelme az esszének
– mondta Darren Hicks, a Furman Egyetem filozófiaprofesszora.
Egy másik szakember úgy fogalmazott, hogy a mondatok külön értelmesek voltak, de a szövegnek nem volt se füle, se farka, ugyanakkor idegtépően hosszú volt.
Nonszensz dolgokat a valódi diákok is írnak, de azok rájuk jellemző idioszinkretikus, ha úgy tetszik, gyerekes hibák. A ChatGPT ezek helyett közhelyekkel teli dagályos tirádákat produkál.
A különbség olyan, mintha rendelnél egy ételt az étteremben, vagy inkább megkapnád helyette az egész menüt egy levessé turmixolva. Az utóbbi nem annyira gusztusos
– fogalmazott Bret Devereaux, az Észak-Karolinai Egyetem történelemtanára.
De van nagyobb probléma is: a ChatGPT hajlamos improvizálni, blöffölni, ha úgy tetszik, adatokat hallucinálni. Adott esetben a szakterület nem létező szerzőinek nem létező munkáira hivatkozik. Diák legyen a talpán, aki egy órával leadás előtt kiszűri ezeket.
Amit a ChatGPT művel, az tényleg gépi fogalmazás, a szövegei nem akadnak fenn a plágiumszűrő szoftvereken. Ahhoz azonban, hogy a tanárokat is becsapják, a diákoknak többet kell molyolniuk a szövegekkel.
A tanárok természetesen már létrehozták a saját online csoportjaikat, ahol megosztják, miről lehet rögtön felismerni a kamuesszét. A fejlesztők eközben nem tudják pontosan, hogy lehetne elérni, hogy a nyelvi modellek kicsit jobban ismerjék saját tudásuk határait, és kicsit tényszerűbbek legyenek.
A csapda, hogy a modell továbbfejlesztése emberi beavatkozással olyan általánosságok puffogtatásához vezet, amit még a korábbinál is könnyebb lesz észrevenni. Hicks rámutatott, hogy egy ilyen robot már szuperül megírná a „Hamlet főbb kérdéseit” internetes források alapján – a tanárok stratégiája szempontjából ezért fontos lehet, hogy
általánosságok helyett kritikus gondolkodást igényeljen a feladat.
Vannak olyan intézmények is, ahol alapvetően máshogy közelítik meg a kérdést, és engedélyezik a szöveggenerátorok használatát, amennyiben a végeredmény korrekt, értelmes, és jelölik, hogy hol használtak gépet. Olyanra is van példa, hogy a diákokkal közösen elemzik a ChatGPT szövegeit, így a tanulók egyszerre ismerkedhetnek meg az írás alapjaival és a csalás határaival.
(Borítókép: Mark Wilson / Getty Images)
(Vice)