Az előző részben felvázoltuk azt a mélyen ellentmondásos képet, amely a nagy nyelvi modellek (LLM) belső természetét övezi: a rendszerek egyszerre mutatnak meghökkentő, „emergens” képességeket és szembesülnek alapvető korlátokkal a valódi megértés és a logikai következtetés terén. Ez a kettősség azonban nem csupán akadémiai kérdés. Az MI körüli diskurzus legélesebb törésvonalai ott húzódnak, ahol a technológia a társadalommal találkozik: a munkaerőpiacon, az etikai normák világában és a geopolitikai küzdőtéren. Emily M. Bender professzor kritikája itt válik igazán relevánssá, amikor a sci-fibe illő világvége-forgatókönyvek helyett az MI valós, jelenlegi problémáira irányítja a figyelmet.
A nagy figyelemelterelés: Egzisztenciális kockázatok és valós károk
Az elmúlt években az MI körüli diskurzust eluralta az egzisztenciális kockázatok narratívája. 2023 tavaszán a Future of Life Institute nyílt levelet tett közzé több száz szakértő, köztük Elon Musk aláírásával, amely a legnagyobb modellek fejlesztésének szüneteltetését kérte a biztonsági szabályozások kidolgozásáig. Ezt követte a Center for AI Safety mindössze 22 szavas, de annál nagyobb visszhangot kiváltó nyilatkozata, amelyet iparági vezetők is aláírtak, és amely kimondta: „Az MI okozta kihalás kockázatának mérséklése globális prioritás kell legyen: a pandémiák és a nukleáris háború melletti szinten.”
Bender ezt a világvége-retorikát káros figyelemelterelésnek tartja. Szerinte a jelenlegi rendszerek nyomokban sem mutatnak olyan képességeket, amelyek világméretű fenyegetést jelentenének, és a „gonosz, öntudatra ébredt MI” hipotézise csupán egy politikai figyelemfelkeltő trükk, amely elvonja az erőforrásokat a sürgetőbb problémáktól5. Miközben a média a képzeletbeli Skynettől való félelmet tárgyalja, a valós károk már most is történnek: az MI-algoritmusok dezinformációt terjesztenek, felerősítik a társadalmi előítéleteket, és eszközei a kontroll nélküli megfigyelésnek vagy a munkavállalók kizsákmányolásának.
Az adatok eredendő bűne: A „born shitty” modellek és a beépített torzítás
Bender egyik legprovokatívabb állítása szerint a modellek „eleve rossznak születtek” (born shitty). Mivel az LLM-eket az internetről válogatott hatalmas adatkorpuszon tanítják be, szükségszerűen magukba szívják a weben fellelhető összes torzítást, sztereotípiát és tévedést. A modell azt tanulja meg, ami a tananyagban van; márpedig az internetes szövegek között bőven akad rasszista, szexista vagy áltudományos tartalom.
Ez nem csupán elméleti felvetés. Egy 2024-es UNESCO-tanulmány „riasztó bizonyítékokat talált regresszív nemi sztereotípiákra” több nagy nyelvi modell kimeneteiben. A kutatók azt találták, hogy a modellek jóval gyakrabban társítanak női neveket otthoni, háztartási szerepekhez, míg a férfi neveket az „üzlet” vagy „karrier” szavakkal kapcsolják össze. Az egyik vizsgált modellnél a nők négyszer gyakrabban jelentek meg hagyományos házimunka-kontextusban, mint a férfiak. A modellek tehát nemcsak tükrözik, hanem aktívan újra is termelik a társadalmi elfogultságokat. A vita arról szól, hogy ez a probléma vajon egy mélyen gyökerező, megoldhatatlan „eredendő bűn”, vagy egy kezelhető hiba. Az iparági szereplők az elfogultság-csökkentő (bias mitigation) technikákban, például az emberi visszacsatoláson alapuló megerősítéses tanulásban (RLHF) bíznak, míg a kritikusok szerint ez csupán egyfajta felszíni korrekció, ami a mélyebb problémákat nem oldja meg.
A helyzetet tovább súlyosbítja a felhasználói percepció veszélye. Az emberek hajlamosak objektivitást és tekintélyt tulajdonítani az MI által generált tartalomnak, feltételezve, hogy „a számítógép kiszámolta, tehát biztos igaz”. Ez a hamis biztonságérzet különösen veszélyes lehet olyan területeken, mint az orvosi tanácsadás. Bender ezért sürgeti a kritikus gondolkodás szükségességét és a transzparencia szabályozói megkövetelését, például annak feltüntetését, ha egy szöveget MI generált.
A gazdasági felfordulás paradoxona: A „bullshit-generátorok” és a munkaerőpiac
Bender rámutat egy látszólagos ellentmondásra: hogyan „falhatja fel a munkaerőpiac nagy részét” egy olyan technológia, amely saját bevallása szerint „a legtöbb feladatra elég rossz”? A feloldás kulcsa a költséghatékonyság. Egy technológiának nem kell tökéletesnek lennie ahhoz, hogy felforgassa a gazdaságot; elég, ha „elég olcsó” és „elég használható” ahhoz, hogy a vállalatok bizonyos feladatokra inkább azt vessék be emberek helyett. A CNET vagy a BuzzFeed esetei, ahol újságírókat bocsátottak el, miközben MI-t kezdtek használni a tartalomgyártásra, azt mutatják, hogy egy olcsó „bullshit-generátor” is vonzó lehet egyes vállalatoknak, ha a minőség rovására költséget takaríthatnak meg.
Ugyanakkor az MI munkaerőpiaci hatása nemcsak a kiszorítás lehet. Sok szakértő inkább abban hisz, hogy az MI kiegészíti az emberi munkát. A GitHub Copilot nevű programozói segéd, amely „páros programozóként” működik, egy kísérlet szerint 55%-kal felgyorsította a fejlesztők munkáját, átvéve a monoton részfeladatokat. Hasonló folyamat zajlik más területeken is, ahol az MI eszköz a munkások kezében, nem pedig a helyettesítőjük. A valóságban mindkét hatás érvényesül. Bender kritikája szerint azonban az MI-t gyakran csak ürügyként használják a vállalatok a leépítésre, ami a dolgozók kiszolgáltatottságához vezet.
A geopolitikai vakfolt: Technológiai szuverenitás az MI-versenyben
Bender elemzése a technikai és etikai korlátok feltárásában kiemelkedően éleslátó, ám egy szembetűnő vakfolt rontja a kritikája teljességét: szinte teljesen figyelmen kívül hagyja a globális technológiai verseny geopolitikai dimenzióját. Az MI ma már nem csupán piaci termék, hanem a technológiai szuverenitás záloga, amely egy ország képességét határozza meg saját digitális jövőjének irányítására.
Kína az MI-t stratégiai eszközként kezeli, masszív állami beruházásokkal és a nyugatinál lazább etikai korlátokkal teremtve magának komparatív előnyt. A kínai cégek olyan adatokat és felhasználási eseteket aknázhatnak ki (tömeges megfigyelés, társadalmi pontozás), amelyek a nyugati országokban jogi korlátokba ütköznének. Ha a Nyugat egyoldalúan túlszabályozza vagy lelassítja a saját innovációját – ahogy azt Bender és mások javasolják –, azzal a kezdeményezést engedi át egy olyan szereplőnek, amely nem feltétlenül osztja a demokratikus normákat. Ha Kína sikerrel exportálja a saját MI-rendszereit, azzal a megfigyelőállam és a társadalmi pontozás logikáját, azaz egy teljes értékrendet is exportál24. Ebben a kontextusban a nem-cselekvés is cselekvés: a technológiai és értékrendbeli hegemónia átengedése másoknak. A „lassítsunk” felszólítás csak akkor volna hatékony, ha a versenytársak is megállnának – ami a jelenlegi helyzetben geopolitikailag naiv elvárás.
A valóságos vita tehát nem az, hogy „fejlesszünk vagy ne fejlesszünk”, hanem az, hogyan lehet felelősen fejleszteni, megőrizve a demokratikus értékeket és a stratégiai autonómiát. Az igazi kihívás egy olyan kiegyensúlyozott stratégia kialakítása, amely egyszerre képes etikai korlátokat állítani és megakadályozni a stratégiai alárendelődés kockázatát. Bender kritikája nélkülözhetetlen a felelős fejlődéshez, de a teljes képhez hozzátartozik a technológia hatalmi és geopolitikai dimenziójának megértése is.
Források:
Bender, E. M., Gebru, T., McMillan-Major, A. & Mitchell, M. (2021). On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? FAccT 2021 Conference Proceedings. DOI: 10.1145/3442188.3445922.
Hammond, G. (2025). AI sceptic Emily Bender: “The emperor has no clothes”. Financial Times, June 21, 2025 techmeme.com ft.com .
UNESCO (2024). Generative AI: UNESCO study reveals alarming evidence of regressive gender stereotypes. UNESCO Press Release, 7 March 2024 unesco.org unesco.org .
Hull, K. (2023). ChatGPT correctly diagnosed a 4-year-old’s mysterious disease after 17 doctors failed. Business Insider, Sept 12, 2023 businessinsider.com businessinsider.com .
Milmo, D. (2025). Advanced AI suffers “complete accuracy collapse” in face of complex problems, study finds. The Guardian, June 9, 2025 theguardian.com theguardian.com .
Marcus, G. (2025). Anybody who thinks LLMs lead straight to AGI is kidding themselves. (“The Illusion of Thinking” newsletter commentary). Idézi: Milmo, D., The Guardian, 09 June 2025 theguardian.com .
Vikas SN (2025). OpenAI’s Sam Altman predicts AI will start solving complex business problems by 2026. Moneycontrol News, June 3, 2025 timesofindia.indiatimes.com moneycontrol.com .
Abdul, G. (2023). Risk of extinction by AI should be global priority, say experts. The Guardian, May 30, 2023 theguardian.com theguardian.com .
Hanna, A. & Bender, E. M. (2023). AI Causes Real Harm. Let’s Focus on That over the End-of-Humanity Hype. Scientific American, Aug 12, 2023 scientificamerican.com scientificamerican.com .
Harrington, C. (2023). CNET published AI-generated stories. Then its staff pushed back. Wired, May 16, 2023 wired.com wired.com .
Kalliamvakou, E. (2023). Research: quantifying GitHub Copilot’s impact on developer productivity and happiness. GitHub Blog, GitHub Next research posts, 2023 github.blog .
OpenAI (2023). GPT-4 Technical Report and System Card.
OpenAI, March 2023. (Appendix: GPT-4 passes Bar Exam in top 10% of test-takers) openai.com
