Csányi Vilmos etológussal a Libri Kiadó gondozásában megjelent új könyve apropóján beszélgettünk mesterséges intelligenciáról, a rendszerszemlélet fontosságáról és arról, miért hülyék a politikusok.
Most jelent meg a legutóbbi a kötete, Ő ott bent címmel. A regényben egy utópiát ír le, amelyben emulációval létrehoznak egy mesterséges intelligenciát.
Olvasta?
Igen.
Tetszett?
Bevallom, nem vagyok sci-fi rajongó.
Ez a valóság, ez nem science fiction! Azért írtam rá, hogy utópia, mert nem science fiction. Persze lehet úgy is olvasni. De a mesterséges intelligencia már készül. Több különböző változat van, és hogy melyik fog befutni az elkövetkező harminc évben, nem lehet megjósolni. De már itt van. Vagyis itt csak a regényforma fikció.
Azzal, hogy 30 évvel előrevetítjük a mesterséges intelligencia létrejöttét, úgy tűnik, ez egy elkerülhetetlen lépés a technikai fejlődésben. Ön ennél tovább megy és evolúciós okokra vezeti vissza a mesterséges intelligencia létrejöttét. Valóban szükségszerű?
Az ember létrehozott egy olyan világot, amelynek az eszközei már egy szuperintelligencia irányába mutatnak, csak a szuperintelligencia végső fázisa még hiányzik. Komputer, mobiltelefon, internet, stb. Ez a bolygó már rég nem olyan, mint amilyennek az átlag ember képzeli. Ez egy energia, anyag és információáramoktól övezett valami, ami teljesen különbözik minden eddigi világtól, amiben eddig éltünk.
Ha jól értem, egy szuperintelligencia létrehozása azt a célt szolgálná, hogy az elmúlt évtizedekben kialakult problémákat – pl. túlnépesedés, szűkülő erőforrások, klímaváltozás – valamilyen módon orvosolja vagy kezelje.
Az evolúcióban nincs cél. Nem azért jönnek létre struktúrák, élőlények, eszközök, hogy valamilyen célt szolgáljanak.
A Földön van egy biológiai rendszer, ami egy egységes valami. És aminek a fejlődése során, amit evolúciónak hívunk, azt látjuk, hogy a legkülönbözőbb szinteken megjelennek azok a tulajdonságok, amelyek valamilyen egység kialakítását eredményezik. Az energiaváltozások ebbe az irányba mennek. Ha más irányba mennek, akkor összeomlanak és újrakezdődik az egész. Az egész a szabályozásról szól. Az ökológiában most kezdik érteni valamennyire, hogy ott is megjelennek ezek az egységek, amelyek arra törekednek, hogy egy egészet alkossanak. Egy tölgyerdő nem csak a tölgyektől tölgy, hanem a benne lévő állatoktól és egyéb növényektől is.
A Földön most van hét és fél milliárd ember, ami egy egységes csoportnak tekinthető. Olyan lény, ami hall, lát, értesül, tele van a feje információval, és ezeket adja vissza valamilyen formában. Hihetetlenül kreatív az egész rendszer, de nincs tisztességesen szabályozva. Ennek egy egységnek kell lennie, viszont kiáltóan hiányzik a szabályozás. Annyit termelünk, hogy mindenkinek bőségesen jutna, de nem jut. Van egytized százalék, akinek minden megvan, és van egy csomó, akinek semmi. Azt már elértük, hogy nem halnak éhen, nincsenek pusztító háborúk. De hát az egész kiált a szervezés után. Ami eddig történt ebben a (biológiai) rendszerben, minden afelé mutatott, hogy ebben az állapotban jelennek meg azok a szabályozó folyamatok, amelyek egységet hoznak létre. Erről szól a szuperintelligencia.
Nekem ez olyan redukcionista felfogásnak tűnik, amelyik nem számol az ember társadalmi jellegével. Azzal például, hogy vannak céltételezései. Ahhoz igazodva hozza létre, választja ki vagy éppen hajítja el az eszközeit. Ez pedig az egy adott eszköz szükségszerűségébe vetett hitet kezdi ki.
Ne vegye rossz néven, hogy ezzel piszkálom, de könyörgöm: ezek különböző szerveződési szintek! Erről a társadalomtudósok még nem is hallottak, pedig tele van vele a másik oldal. Az, hogy nekem van céltételezésem, teljesen normális biológiai dolog: megszerezni, megölni, megfogni, megenni, megölelni. És akkor ezeket a koncepciókat átemelik egy olyan szintre, ahol ezeknek már semmi értelmük nincs. Használják, de egészen mást jelent. Ha megnéz egy Orbán-beszédet, akkor abból tökéletesen lehet látni, hogy ez az ember a személyes szint fogalmaival próbál 10 millió ember érdekeiről, jövőjéről, sorsáról beszélni. Hülyeségeket mond. De nem azért, mert a konvencionális értelemben hülye. Hanem azért mert eltéveszti a szerveződési szintet.
Azon a szerveződési szinten más dolgokról és másképp kell beszélni. Azoknak a szavaknak pedig, hogy cél, haszon, hatékonyság, teljesen más értelmük van. Lehet, hogy nem is kéne őket használni. Egy politikus hiába végez egyetemet, akkora barom, hogy ezt nem képes megérteni.
Nagyon óvatosan kell bánni, amikor átlépek egy szerveződési szintet. Családról beszélek, városról, országról, bolygóról. Amikor más szerveződési szinten vagyok, más nyelvet kell használni, mert mást jelentenek a szavak.
Mindig a rendszert kell nézni.
És ez a könyv is ezt akarja megmutatni, hogy nem ilyen egyszerű ez a szuper intelligencia, hogy az majd mindent fog tudni. Ha megnézi ennek a szakirodalmát, az a szörnyű, hogy ezt komputerrel, információval foglalkozó emberek írják, és erről az oldalról szakmailag semmi probléma. Amint viszont célok, miértek merülnek föl, a legnagyobb baromságokat képesek leírni. Képesek könyveket írni arról, hogy ha téged átteszünk egy számítógépbe, az neked milyen jó lesz. Nem tudják azt felfogni, hogy én ott maradok. Lehet, hogy engem áttettek egy komputerbe, de könyörgöm, én itt maradtam, nem csaptak agyon! Ezek olyan primitív problémák, hogy ha az ember biológusként ilyeneket csinál, akkor rögtön kirúgják.
Amint mondta, az emberiség estében éppúgy, mint a tölgyerdő esetében egységre kell törekedni. Egység pedig nincs megfelelő szabályozás nélkül. Ha tehát létrejön egy szuperintelligencia, az végső soron az egységet garantáló kontrollt kell, hogy biztosítsa. Kérdés azonban, hogy ki akarja alávetni magát egy mesterséges intelligencia kontrolljának.
Erről nem fogják megkérdezni. Hát magát megkérdezték arról, hogy föltalálják-e a számítógépet? Kérdezték, hogy bevezethetik-e az internetet? Kérdezték, hogy akar-e mobiltelefonálni? Ez megint a személyiség szintjének problémáinak áttétele egy magasabb szintre. Hát magát megkérdezték arról, hogy ebben a rendszerben akar-e élni?
Nem. De bizonyos kérdésekben dönthetek. Nem veszek meg bizonyos termékeket, elmegyek szavazni, forradalmat robbanthatok ki, stb. Irritálónak tartottam mindig is a „szakértői kormány” lázálmát. Éppúgy találok szakértőt, aki szerint az egykulcsos adórendszer az igazságos, mint ahogy olyat, aki szerint a progresszív adórendszer az. Ezek értékválasztások. És ha leadom a voksom – jobb esetben – döntök erről is.
De hát média van! Befolyás van! A választóknak a negyede megy el szavazni és azoknak is teletömik a fejét mindenféle hülyeséggel. Csak egy példát mondok, ami biztos rossz színben fog feltüntetni: a Liget-projekt, ami politikai eseménnyé lett. Nyilván lehet olyat is csinálni, hogy minden épületet kiradíroznak, és csak a park marad. És akkor az a 2-3 ezer ember, aki szereti a környéket használni, az nyugodtan használhatja. Lehet úgy is használni, ahogy a Baán elképzeli. De ott van egy konkrét dolog, amin én állandóan dühöngök: hogy a Baánék miért nem tudják ezt elmagyarázni? Ez az egész egy nem tisztességesen feltárt, nem tisztességesen elmagyarázott, átpolitizált, beteges dolog. És ha szavazni kéne róla, a szavazók lehet, hogy leszavaznák anélkül, hogy tisztában lennének azzal, mi lesz, mit érdemes csinálni. Megint nem rendszerben gondolkodnak. Ha több zöldfelületet akarnak, rendbe kell hozni a Népligetet, meg kell nézni, hova lehet fát ültetni.
Éppen ez a lényeg: a magyarázat, a megértés, a meggyőzés. Jóllehet van egy szuperintelligencia, aminek nagyszerű javaslatai vannak, de azokat a javaslatokat valakinek meg kell valósítania. Ahhoz pedig arra van szükség, hogy meggyőzzék a közösséget: ez a mi érdekünk.
Megint csak azt tudom kérdezni: ki tárgyal magával az internet fejlesztéséről?
Akkor vegyük például a halászat szabályozását! Megmondhatja nekem egy mesterséges intelligencia, hogy hogyan érdemes szabályozni, de a szabályozást magát valakinek végre kell hajtania és végre kell hajtatnia. Ezt a pőre technika nem oldja meg.
Ne haragudjon, de az a világ, amiben maga gondolkodik, egy olyan világ, ahol a döntéshozók hozzák a döntéseket! Az általam látott világban viszont sokkal lejjebb vannak a döntések. A döntéshozók odaállnak bizonyos döntések élére, és azt mondják, ezt én hoztam, mert ebből lehet előnyöket kovácsolni.
Vegyük az autót! Amikor 25 éve Nógrádban vettünk egy telket, három autó volt a környéken. A harmadik volt a miénk. Most nem merem kiengedni a kutyát, mert mindenhol áll egy autó, és félek, hogy elgázolják. Persze, biztos kényelmes. De megkérdeztek engem, hogy akarom-e, hogy autózajjal és az autók okozta szörnyű környezetszennyezéssel akarom az életemet leélni, vagy inkább néhány lóval, pázsittal, kellemes gyalogtúrákkal?
Én nem választhattam, ez így lett. De hát ilyen a technikai fejlődés.
Térjünk vissza a mesterséges intelligenciához! A regényében emulációval hoznak létre mesterséges intelligenciát: egy derék kultúrantropológust másolnak le molekuláris szinten, a másolatot pedig feltöltik egy számítógépbe. A regény fikciója szerint az így létrejött intelligencia tudattal rendelkezik. Egyrészt kell, hogy egy mesterséges intelligenciának legyen tudata? Másrészt reális opció, hogy így tudat is létrejön?
Ezek az igazi kérdések. Nem kell feltétlenül, hogy legyen tudata, ahogy a társadalomnak sincs. Tehát amikor egy politikus arról kezd beszélni, hogy „mi magyarok”, „mi európaiak”, stb., akkor megint a személyes szintről fölment egy sokkal magasabb szintre, és hülyeségeket beszél. Létre lehet hozni egy nagyon intelligens rendszert, aminek nincsen énje. Mint ahogy az ember is, amikor még nem volt ilyen nyitott, beszélni képes valaki, akkor is a teste egy nagyon-nagyon megszervezett valami volt. Egy sejtben 30 ezer kémiai reakció zajlik, amit valamilyen kotta szerint szabályozni kellett. Abból, hogy milyen reakciót fogok vissza, bármilyen kottát létre lehet hozni. Vannak életképes kották, ami megmarad 80-100 évig. Nem kell hozzá tudat, hogy működjön. Ahogy a testhez sem kell tudat.
Továbbá az Ember állandóan kísérletezik. Ha lehetséges tudatos mesterséges intelligenciát létrehozni – és én azt gondolom, ennek elvi akadálya nincs –, akkor ezt biztos meg is fogja tenni. A tudat egy nagyon ravasz és bonyolult dolog. És ha megkérdezi, hogy kell-e hogy egy mesterséges intelligenciának legyen tudata, azt kell mondanom, nem tudom. Majd kiderül, hogy egy tudattal mekkora rendszert lehet még szabályozni. Lehet, hogy nem tudná kezelni, mint ahogy az ember sem tudja kezelni azt a tíz a tizenegyediken neuront, amivel gondolkodik. Vannak már olyan számítógépek, amik ennek a közelében vannak. Így elvileg a teljes idegrendszert be lehet vinni egy számítógépbe, nem csak a neuronok szintjén, hanem a neuronok alatti szintig. Ez egy most megjelenő lehetőség. De nem biztos, hogy ez feltétlenül kell. Esetleg egy sokkal kisebb rendszer is intelligensen tud működni, ha az egy dizájnolt rendszer. A miénk ugye nem dizájnolt, hanem egy spontán kialakult valami, biztos, hogy rengeteg fölösleges része van. Másrészt lehet, hogy van egy felső határ, ami fölött már értelmetlen, hogy még legyen tudat, ami azon gondolkodik, melyik megoldást válassza.
A tudat kérdése azért is merül föl, mert úgy tűnik – bár ebben közel sem vagyok biztos –, szükség van tudatra ahhoz, hogy kialakuljon az empátia, érzelmi intelligencia – hívjuk, ahogy akarjuk. Egy mesterséges intelligenciát hol érdekelné, hogy mi az ára a rendszer fenntartásának?
Bocsánatot kérek, hogy megint gorombáskodom, de nincs rendszerszemlélete! Úgy gondolkodik, hogy egy magához hasonló valaki dönt globális dolgokról. De ez nem így működik. Felépül egy globális irányító rendszer: erőművek, bányák, kereskedelem, oktatás, orvoslás, stb. Na most erre épül egy további rendszer, ami azzal törődik, hogy leegyszerűsítse például azt az ostobaságot, hogy elmegyek egy orvoshoz, aki tovább küld egy másikhoz, aki egy harmadikhoz, hogy végül visszavigyem a leleteimet az elsőhöz. Egy ilyen rendszerbe nem lehet új ötleteket hozni.
A biológia rendszerek fejlődése arra tanít bennünket, hogy szinte mindent meg lehet csinálni, de semmit sem úgy, hogy hirtelen bevezetjük.
Már most is van egy nem szuper, de intelligens, nagyon buta, primitív szabályozó rendszer, aminek mindenki a tökéletesítésén dolgozik. Tehát nem úgy van, hogy egyszer csak felébred egy szuperintelligencia, hanem ebben a rendszerben szűnnek meg azok a fölösleges járatok, amelyek azt hatékonytalanná teszik. Tehát ha az ember rendszerként próbál tekinteni a dolgokra, ami mindig sok tényezős, sok szereplős, sok szereplő interakciójából alakul ki, akkor ezek a kérdések nem merülnek fel, mert a rendszer nem így működik. De hogy itt milyen kérdés értelmezhető és mi nem, még nem tudhatjuk. Vannak rá elképzelések. Amit én megírtam, az is egy elképzelés. Ezért írtam regényt, mert egyáltalán nem biztos, hogy ha működik, akkor így működik.
