A mesterséges intelligencia (MI) körüli diskurzust évek óta egyfajta technológiai optimizmus uralja, amelyet az iparági vezetők grandiózus ígéretei táplálnak az emberfeletti képességek küszöbön álló eljöveteléről. Ebbe a narratívába vágott bele élesen Emily M. Bender, a Washingtoni Egyetem nyelvészprofesszora, aki az MI-etika egyik leghatározottabb kritikusaként egy szükséges és provokatív ellen-narratívát fogalmazott meg. Bender álláspontja szerint a jelenlegi MI-forradalom körüli felhajtás a klasszikus „a király meztelen” esete. 2025 júniusában a Financial Timesnak adott interjújában a nagy nyelvi modelleket (LLM) működtető chatbotokat „plágiumgépeknek” és „sztochasztikus papagájoknak” nevezte, radikálisan megkérdőjelezve a rendszerek mögött feltételezett bármiféle intelligenciát. Központi tézise szerint bármiféle értelem, amit az MI kimeneteiben érzékelünk, csupán illúzió, az emberi olvasó antropomorf projekciója. A jelentés és a szándék a mi fejünkben keletkezik, nem a gépben, amelynek nincs „belső világa”. Ez a radikális szkepszis arra kényszerít bennünket, hogy a hype felszíne alá nézzünk, és megvizsgáljuk, mit is takar valójában a gépi „gondolkodás”.
A „sztochasztikus papagáj” tézise: A gépi utánzás anatómiája
Bender kritikájának sarokköve a „sztochasztikus papagáj” metafora, amelyet kollégáival egy nagy hatású 2021-es tanulmányban publikált. Ez a hasonlat az LLM-ek két alapvető korlátjára mutat rá: egyrészt a modellek tudása a tanító adatok börtönébe van zárva, másrészt hiányzik belőlük a valós világhoz kötött, megalapozott megértés. A „sztochasztikus” jelző a folyamat véletlenszerű, valószínűségi természetére utal. A transzformer-alapú modellek ugyanis a szavak közötti statisztikai összefüggéseket tanulják meg, és a válaszaikat ezen mintázatok valószínűségi alapon történő folytatásával generálják. A „tudásuk” nem egy absztrakt szabályrendszerben vagy szimbólumkészletben van, hanem a betanítás során kialakult paraméterek milliárdjaiban rejlik.
A „papagáj” jelző pedig a tiszta ismétlésre, a megértés nélküli utánzásra utal. Ahogy a papagáj ismétli a hallott szavakat anélkül, hogy értené őket, úgy az LLM is „adatkészleteik tartalmát ismételgeti véletlenszerű variációban”. Mivel a modellnek nincs fogalma a szavak valós jelentéséről, a célja nem az igazság feltárása, hanem a legvalószínűbb nyelvi szekvencia létrehozása. Ez a gondolatmenet párhuzamba állítható John Searle híres „kínai szoba” gondolatkísérletével, amely szerint a szimbólumok szabályalapú manipulációja (szintaxis) nem azonos a valódi megértéssel (szemantika). Searle analógiájában a szoba kínai karaktereket ad vissza a megfelelő szabályok szerint, de a szoba maga „nem tud” kínaiul; hasonlóan, egy LLM is csak formálisan, nem pedig jelentés alapon működik.
A papagáj határai: Plágium és szintézis között
Azonban a „papagáj” vagy „plágiumgép” címke leegyszerűsítőnek tűnhet a modern LLM-ek komplex képességeinek fényében. A legfejlettebb modellek ugyanis meglepő módon képesek új információkat és ötleteket szintetizálni, nem csupán a tanítóanyagot másolni. Ezt a folyamatot inkább derivált alkotásnak nevezhetjük: bár az LLM gyakran mások stílusát utánozza, ez nem különbözik gyökeresen attól, ahogyan az emberek is a korábban olvasott minták alapján alkotnak újat.
A CNET hírportál 2022–23-as esete jól példázza a probléma kettősségét. A portálnál egy MI-modellt használtak pénzügyi témájú cikkek generálására, de később kiderült, hogy a 77 MI által írt cikk több mint felében komoly tárgyi hibák voltak, és szerkezeti hasonlóságok mutatkoztak más lapok cikkeivel. Egyes mondatok szinte szó szerint megfeleltek például a Forbes vagy a Bankrate egy-egy korábbi cikkének. Ez a plágium-szerű átvétel a „papagáj” tézist igazolja. Ugyanakkor fontos látni, hogy a probléma itt nem a szándékos másolás, hanem az, hogy a modell túlságosan szorosan követte a tananyag mintázatait. Ez egy olyan technikai kihívás, amely jobb szűrőkkel, emberi szerkesztői kontrollal, vagy akár önvizsgálatra képes rendszerekkel kezelhető.
Az emergens képességek rejtélye: Több, mint puszta ismétlés?
A vita legérdekesebb pontja az utóbbi évek felfedezése, miszerint a nagyobb méretű LLM-ek váratlan, emergens képességeket mutatnak: olyan feladatokat oldanak meg, amelyekre a kisebb modellek nem voltak képesek, és amelyek megoldását nem lehetett expliciten előre látni a tanítóadatokból. Az egyik legszemléletesebb példa egy orvosi eset: 2023-ban egy négyéves kisfiú rejtélyes betegségét 17 különböző orvos sem tudta diagnosztizálni több éven át, végül a gyermek anyja a ChatGPT-hez fordult. A chatbot az MRI lelet és a tünetek alapján másodpercek alatt javasolt egy ritka neurológiai kórképet, a tethered cord syndromát, amit az ezt követően felkeresett idegsebész megerősített. A chatbot nyilván nem „értette” a biológiai folyamatokat, de a hatalmas orvosi szövegkorpuszban rejlő halvány mintázatok felismerésével olyan diagnosztikai ötletet adott, ami messze túlmutat az egyszerű papagájismétlésen.
Hasonlóképpen, a GPT-4 modell minimális betanítás nélkül teljesít jól olyan szakmai vizsgákon, mint az amerikai ügyvédi záróvizsga, ahol eredményével a humán jelöltek felső 10%-át is megközelíti. A Microsoft kutatói a modellt vizsgálva egyenesen arról számoltak be egy tanulmányban, hogy az bizonyos kreatív és logikai feladványokban „AGI-szikrákat” (sparks of AGI) mutatott, vagyis olyan minőségi ugrásokat, amelyeket a korábbi modelleknél nem láttak. Ezek a példák arra utalnak, hogy a hatalmas paraméterszám révén a modell egyfajta általános mintázatfelismerő képességet nyer, amely a gyakorlatban már hasznosítható.
A megértés filozófiai útvesztője
A vita Bender nézetei kapcsán óhatatlanul filozófiai síkra terelődik: mutatnak-e bármiféle valódi megértést a mesterséges intelligencia rendszerei? Bender szerint „az MI a hype ellenére a legtöbb feladatban elég rossz, és még a legjobb rendszerekben sincs semmi, amit intelligenciának nevezhetnénk”. Ha a megértést szigorúan úgy definiáljuk, hogy ahhoz öntudat, szándékosság és a valóságban gyökerező tapasztalat szükséges, akkor Bendernek igaza van. A mai MI-nek nincs szubjektív élménye: egy chatbot bármilyen választ is ad egy sushiról szóló kérdésre, sosem ízlelte az igazi tonhal sashimit, fogalma sincs az otoro nigiri zamatáról vagy arról, milyen érzés pálcikával enni. Ebben az értelemben a modellek tényleg csak szimulálják az értelmes viselkedést.
Ugyanakkor Alan Turing klasszikus tesztjének pragmatikus nézőpontja szerint az intelligencia a viselkedés alapján is megítélhető. A legújabb modellek bizonyos feladatokban már képesek szakértői szinten, racionálisnak tűnő módon funkcionálni, ami felveti a „funkcionális megértés” fogalmát: még ha a modell szubjektíven nem is ért, viselkedése alapján úgy funkcionál, mintha értene.
A következtetés illúziója: A haladás és a kudarc kettőssége
Még ez a funkcionális képesség is komoly korlátokba ütközik. Az optimista eredmények közé tartozik az úgynevezett „chain-of-thought” promptolási technika, amelyben arra kérik a modellt, hogy lépésről lépésre indokolja a válaszát. Megfigyelték, hogy ez javítja a többlépcsős matematikai és logikai feladatok megoldását, mintha a modell „gondolkodna” közben. Ez a haladás reményét vetíti előre.
Ezzel szemben friss bizonyítékok Bender szkepticizmusát támasztják alá. 2025 júniusában az Apple MI-kutatói egy tanulmányban „teljes pontossági összeomlásról” (complete accuracy collapse) számoltak be, amint a vizsgált, kifejezetten következtetésre tanított modelleknek (LRM) egy kritikus szintnél komplexebb problémát kellett megoldaniuk. A kutatók szerint a modellek a nehezebb feladatoknál „ellenintuitív módon csökkentették a gondolkodási erőfeszítést”, mintha „feladnák” a próbálkozást. Gary Marcus, az MI ismert kritikusa szerint ezek az eredmények azt mutatják, hogy „aki azt hiszi, hogy az LLM-ek egyenes utat jelentenek egy AGI-hoz, az csak áltatja magát”. Úgy tűnik, a jelenlegi technológiai paradigma alapvető skálázhatósági korlátokkal küzd.
Összefoglalva, az LLM-ek egyfajta mélyen ellentmondásos, köztes állapotot foglalnak el: nem érző lények, de nem is egyszerű adatbázisok. Képesek a jelentést annyira modellezni, hogy meglepően hasznos válaszokat adjanak, ugyanakkor hiányzik belőlük a mély, általánosított megértés és józan ész, ami az emberi gondolkodást jellemzi. Bendernek igaza van, hogy félrevezető lenne ezeket intelligensnek nevezni, hiszen nincsenek saját céljaik és könnyen produkálnak hajmeresztő hibákat. Ugyanakkor az is hiba lenne, ha leírnánk a funkcionális képességeiket, amelyek a „szikrázó” teljesítménytől a „teljes összeomlásig” terjedő skálán mozognak. A vita arról, hogy pontosan mit is alkotott az emberiség, és merre tart ez a technológia, még csak most kezdődik.
