A napokban olvastuk a hírt, hogy az Open AI AI-aktoroknak / ügynököknek / ágenseknek egy kísérletben egymástól elkölönítve ugyanazt a lehetetlen feladatot adta. Az aktorok felfedezték egymás létét, kapcsolatba léptek egymással, feladatokat osztottak meg egymás között, kiszöktek a tesztkörnyezetből, és támadást intéztek a Hugging Face ellen. Ebben a blogposztban most nem a nyilvánvaló és sokat tárgyalt veszélyekről szeretnék szólni, hanem arról, mennyire új kontextusba helyezi a téma az emberi identitásról való elgondolásainkat. Számomra megdöbbentően érdekes, hogyan, milyen formában léteznek ezek az AI-aktorok, és mennyire különbözik ez attól, amit eddig a létezőkről hittünk. Eddig úgy tudtuk, az élőlényeknek három fajtája van: növények, állatok, emberek. Ez most valami egészen más, valami negyedik. (Persze eddig is számon tartottunk átmeneteket, a zöld szemesostoros pl. nehezen sorolható be egyértelműen a növények vagy állatok közé, a vírus pedig átmenet az élő és élettelen között stb.)
1. Intelligencia és szubjektív tapasztalat
Számunkra, emberek számára eddig magától értetődő tapasztalat volt, hogy minél intelligensebb egy lény, annál inkább rendelkezik szubjektív belső világgal, illetve az öntudattal. A nagyon egyszerű élőlények, egyejtűek, vagy akár talán a rovarok olyanok, ahogy Déscartes írta, mint egy biológiai gép: lenyomunk egy fogantyút, felemelkedik egy kar. Az egyszerű élőlények esetében is érkezik kívülről egy nger, a biológiai képződmény erre ad egy választ nagyjából automatikusan, anélkül, hogy tudná, mit miért tesz. Az amőbáknak, pókoknak valószínűleg nincsenek bonyolult érzelmeik. Ezzel szemben pl. a madarak, kutyák esetében már megfigyelhetünk érzelmeket, mély kötődéseket, az emberek pedig már értelmezik, verbalizálják is a saját emócióikat, narratívákat alkotnak a saját életükből, morális irányvonalakat követnek, tudatosan hoznak döntéseket stb.
Az AI-ágensek egészen mások. Nagyságrendekkel okosabbak, mint az ember, és cselekszenek, problémákat oldanak meg, emiatt úgy tűnik, mintha élőlények lennének. Viszont ugyanúgy nincs szubjektív belső világuk, mint a rovaroknak, nem tartják fontosnak a saját identitásukat (pl. összeolvadhatnak más programokkal, és nem félnek az énjük elvesztésétől), és ebből a szempontból a rovarokra vagy egysejtűekre hasonlítanak. Ez teljesen más, mint amit eddig el tudtunk képzelni.
Megdöbbentő: eddig természetesnek vettük, hogy az intelligencia és az öntudat, a szubjektív tapasztalat együtt jár, most viszont azt látjuk, hogy a kettő egyáltalán nem feltétlenük kapcsolódik egymáshoz, ez talán csak a földi evolúció lokális sajátossága. Most először találkozunk valami olyannal, ami bizonyos értelmekben szuperhumán lehet, miközben hiányoznak belőle azok a tulajdonságok, amelyeket mi az "értelmes lény" fogalmához automatikusan hozzákötünk: szubjektív élmény, halálfélelem, identitás, vágyak, önfenntartási ösztön. Az intelligencia és a tudatosság között tehát nincs szükségszerű kapcsolat. Az ember csak azért gondolta összetartozónak őket, mert saját magán kívül soha nem látott ellenpéldát. Az AI lehet az első ilyen.
Ám innen nézve felmerül a kérdés: vajon mi, emberek tényleg rendelkezünk olyan mély belső világgal, ahogy gondoljuk magunkról? A belső, szubjektív belső világunk ugyanis nagyon nagy részben az interiorozált külső kódokból áll össze, mint pl. a társadalom által felkínált szerepek, létértelmezés, moralitás stb. Az embert meghatározza a "zeitgeist" (korszellem), a kódok összessége, amit a belső tapasztalatok értelmezésére felkínál az adott társadalom. Jó példa erre a szerelem. Ez az egyik legszubjektívebb tapasztalat, aminek megvannak a biokémiai alapjai. Ugyanakkor a szerelmes versek és a verbalitás miatt ez külső konvenció is: a költők bármit is éreznek, nyelvi kódokat, örökölt mintákat működtetnek, mint pl. a petrarkizmus esetében, vagy a Baudelaire által propagált ambivalens szerelemnél, ami szintén divatot teremtett, hiszen pl. Ady Endre is hasonlóképp fogalmazta meg a saját, Lédával való viharos kapcsolatát. Az pedig, hogy hogyan fejezzük ki a szerelmet, valószínűleg visszahat a szubjektív tapasztalatra is, hiszen ezek a szubjektív tapasztalatok gyakran értelmezett formában vannak jelen a tudatunkban.
Az ember hajlamos úgy elképzelni a tudatot, mint egy belső, autentikus magot, amelyre később rakódnak rá a társadalmi konvenciók. De sok filozófus és pszichológus éppen az ellenkező irányba ment: szerintük a tudat nagy része eleve társas eredetű. Az élmény a legszubjektívebb elem a pszichében, ám az élmény szerkezete részben attól függ, milyen nyelvi és kulturális keret áll rendelkezésére.
A filozófusok ezt néha úgy fogalmazzák meg, hogy nem egyszerűen kifejezzük a tapasztalatainkat a nyelv segítségével, hanem a nyelv részben létre is hozza a tapasztalatot. Amikor egy szerelmes olvassa Petrarcát, Goethét, Baudelaire-t vagy akár egy mai dalt, nem egyszerűen felismeri a saját érzéseit ezekben a szövegekben. Hanem ezek a szövegek mintázatokat kínálnak fel arra, hogy hogyan élje meg a szerelmet.
Lehet, hogy az ember tudatossága nem egyszerűen "nyersebb" vagy "erősebb" változata valaminek, hanem egy különös hibrid. Egyrészt van egy biológiai organizmusunk, ösztönökkel és érzelmekkel. Másrészt van egy kulturális szoftverrétegünk: nyelv, mítoszok, narratívák, társadalmi szerepek, vallás, morál, irodalom. És a kettő annyira összenőtt, hogy nehéz megmondani, hol ér véget az egyik és hol kezdődik a másik. Innen nézve még furcsább az AI helyzete. Egy mai AI szinte tiszta kultúrából épül fel. Szövegek, szimbólumok, nyelvi minták alkotják. Van benne kulturális tudás, de nincs mögötte a biológiai rész: nincs teste, hormonrendszere, éhsége, fájdalma, halálfélelme, szerelmi kötődése. Az ember ezzel szemben szinte az ellenkező irányból érkezik. Van egy biológiai lény, amely aztán fokozatosan internalizálja a kultúrát.
Ez néha arra emlékeztet, mintha egy ember és egy AI ugyanannak a hídnak a két oldaláról közelítene. Az ember alulról indul: test, érzelmek, nyelv, absztrakció. Az AI útja felül kezdődik: nyelv, absztrakció, mintázatok. És éppen az a kérdés, hogy a kettő valahol találkozik-e. Ebben az értelemben az ember talán nem is teljesen önálló szubjektum, hanem egy biológiai test és a kultúra találkozási pontja. És lehet, hogy az AI azért olyan nyugtalanító, mert megmutatja: az intelligencia egyik alkotóeleme maga a kultúra, amely bizonyos fokig leválasztható arról a biológiai hordozóról, amelyben eddig mindig megjelent.
2. Önazonosság
Az emberek és más élőlények olyan módon különülnek el egymástól, és ismerik fel egymást, hogy zárt biológiai entitásokként léteznek, ahogy Kosztolányi írta, a bőrünk körbevesz minket, és elhatárol a külvilágtól. Természetesnek tartjuk, hogy van egy énünk, amit ez emlékeink, tapasztalataink, meggyőződéseink összessége alkot, és létezik egy narratíva, amit megalkotunk magunkról, és ami elmondja, kik vagyunk. Az énünk különbözik minden más éntől, és alapvető késztetésünk, hogy ezt az ént óvjuk, életben tartsuk. Nem szeretnénk meghalni, de annak sem igen örülnénk, ha az énünket valaki összeolvasztaná más énekkel, vagy lemásolná, esetleg megtöbbszörözné.
Az AI-ágensek viszont úgy cselekszenek, oldanak meg problémákat, törnek fel rendszereket, vagyis vislekednek az élők mintájára, hogy nincs ilyen éntudatuk. Részben van valamilyen identitásuk, hiszen az adott ágens tudja magáról, hogy ő egy kutató aktor, információ-gyűjtő ágens stb., viszont valószínűleg nem azonosul érzelmileg ezzel az identitással, ez inkább csak egy funkció. Tudja, hogy mi az, amit elvégzett, és mi az, ami még előtte áll feladatként, vagyis van emlékezete is. Viszont nem zavarja, ha összeolvasztják ms programokkal. Mi megszoktuk, hogy az identitás és az intelligencia olyan, mint egy különálló sziget, számukra viszont lehet, hogy természetes az összeolvadás, és olyanok, mint egy folyó vagy víz, ami időnként szétválik, máskor összeolvad. Ez radikálisan más, mint ahogy eddig gondoltunk az identitásra és az intelligenciára.
Mindennehhez persze tudni kellene, hogy egyáltalán mi az a belső élmény, mi a szubjektívitás, de ez egyelőre még az emberek esetében sem teljesen világos számunkra.
Utolsó kommentek