Örüljünk vagy féljünk?
Szinte egyik napról a másikra számítógépeink beszélgetni kezdtek. Örüljünk az új játékszernek, vagy essünk kétségbe, hogy kiszorítanak majd a munkahelyünkről, okosabbak lesznek, mint mi, hamis információkkal árasztják el a világot, átveszik a szórakoztató iparágakat is, megszűnik az emberszereplős mozi, megjelennek a számítógépes dinasztiák és a katedrákon is okos kompjúterek ülnek majd, kiszorítva az embert a társadalomból?
Szinte mindenkit érintő kérdések ezek, érdemes körbejárni, mennyi a mese és mennyi a valóság a hírekben. A mesterséges intelligenciával rendelkező programokat kompjúterhez értő szakemberek készítik, de hamarosan majd a mindennapi életünkben alkalmazzák őket, és képesek lesznek viselkedésünket, munkánkat, szórakozásunkat, politikai nézeteinket befolyásolni. Kérdés, hogy mennyire. Néhány évtizede, a kezdetek idején az emberi intelligenciát szerették volna utánozni. Olyan kompjútermodelleket kívántak készíteni, amelyek bizonyos emberi feladatokat okosabban, gyorsabban, könnyebben oldanak majd meg.
Legelőször szögezzük le, hogy kitartó munkával elvileg nincs akadálya az emberi gondolkodást utánzó, egészen pontosan azt megközelítő algoritmusok készítésének. Minden komplex rendszer tetszés szerinti pontossággal modellezhető, ha van rá elegendő idő és pénz. A kompjúterekkel foglalkozó szakemberek a programokhoz nagyon értenek, de sem a biológia, sem a pszichológia vagy a humánetológia nem érdekli őket különösebben. Ez látszott az első elképzelésekből, miszerint a kitartó munkával elkészült program, egy gép, sokkal-sokkal intelligensebb lesz, mint mi, emberek, hamarosan mindenbe beleszól, és a világot a saját döntései alapján akarja majd irányítani. Ezzel a hamis elképzeléssel sok probléma van.
Kezdjük az elején, még saját magunkra sincsen épkézláb intelligenciameghatározásunk. Az életben sok okos emberrel találkozhatunk, de nem mindegyik tudós vagy gazdasági szakember, sokuknak pénze sincs elég. A mesterségesintelligencia-tervezők szerint az intelligencia azonos a problémamegoldó képeséggel. Sok jó problémamegoldó embert ismerek, aki kevéssé intelligens az élet egyéb területein. Mi tehát az a nagyon fontos intelligencia? A pszichológusok, akik értenek ehhez, ironizálva azt mondják, intelligencia az, amit az intelligenciatesztek mérnek. Ez nagyon intelligens válasz, ha értjük a benne rejlő iróniát. Az etológusokat sokszor kérdezik, melyik állat intelligensebb, mint a többi, és a válasz nagyon szakszerű: az az állat intelligens, amelyik a saját ökológiai környezetében olyan értelmes döntéseket képes hozni, hogy életben maradjon, és utódokat neveljen. Ez is szakszerű válasz, és most tudjuk, hogy egy tücsök éppen olyan intelligens, mint egy csimpánz, mert mindkettő képes teljesíteni az intelligencia meghatározásának feltételeit. A kérdés persze az volt, hogy melyik intelligensebb. Megfontolandó valami olyan meghatározás, amely szerint az az állat intelligensebb, amelyik bonyolultabb környezetben él, és ott teljesíti az intelligencia feltételeit. Ezen az alapon a csimpánz lesz a nyerő, de ettől a meghatározástól sajnos még fogalmunk sincsen az intelligencia természetéről.
Vizsgáljuk meg a saját helyzetünket. Mi is élünk, táplálkozunk, szaporodunk, az alapfeltételnek megfelelünk, de azt is látjuk, hogy sokféle ember van, és bizony az elképzelt intelligenciájukat is nagyon változatosnak találjuk. Akad ismerősünk, aki nagyon okos, minden kérdésünkre jó válaszokat ad, de a legtöbb ember tájékozatlan, sok mindent nem ért, nem is érdeklik a bonyolultabb kérdések. Tudományosan is vizsgálható az emberi intelligencia. Komolyabb neurobiológiai kutatások szükségesek, és folynak is sokfelé a világban, amelyek azt figyelik, hogy az átlagosnak és a tehetségesnek tartott emberek agya, gondolkodása hogyan működik, és a megfigyelhető különbségekből következtethetünk az intelligencia természetére.
Megállapították, hogy az emberi agy éber állapotban folyamatosan működik, sokféle gondolat jut tulajdonosa eszébe, de ha egy, a gondolatok fontosságát figyelő rendszer nem figyelmezteti, a gondolatok elszállnak, gyorsan váltják egymást. Ha valami fontos jut az ember eszébe, például délután be kell mennem a patikába, akkor a gondolkodás e körül a gondolat körül kezd forogni, mikor menjek, hol van a patika, mit kell hoznom, nálam van-e a recept, biztosan jó-e nekem ez a gyógyszer, stb. Előfordulhat, hogy a fontosságok körébe valami olyan ismeret tartozik, ami a hosszú távú memóriámban egy másik fontos agyi mechanizmusban van elrejtve, és onnan kell előhalászni: például hogy merre van a patika. Az is kiderült, hogy ez a három nagy agyi rendszer, a gondolatok gyors váltakozása, a fontosság ellenőrzése és a hosszú távú memória az ember elméjében egymásra is hatással vannak, és ha valamelyik aktiválódik, azonnal gátolni igyekszik a másik kettőt. Tehát ha azon gondolkodom, merre is van a patika, akkor leáll a szabad gondolatok áramlása az agyamban, csak erre az egyre, ami fontos, erre koncentrálok.
Az is kiderült, hogy a kreatív emberek agya némileg másképpen működik, náluk a gondolati rendszerek kölcsönös gátló hatása nem vagy alig érvényesül. Tehát szállnak a jobbnál jobb gondolatok a fejemben, és közben kutatok a memóriában, hogy esetleg mikor és miért találkoztam velük, és azon is gondolkodom, mennyire fontosak. Egy neurobiológiai kísérletben háromszáz ember gondolkodását vizsgálták, közöttük harminc elismert tehetség is volt. Hogy melyik kicsoda, azt a vizsgáló tudósoknak nem mondták meg, csak azt kérték, hogy csoportosítsák a háromszáz főt a mérhető gondolkodási folyamataik alapján. Kiderült, hogy az előbb említett gátló folyamatok hiánya harminc emberre volt jellemző, akik egyébként elismerten kreatívak voltak a zene, a matematika, a művészet vagy a mérnöki tudományok területén.
Még annyit, hogy a hosszú távú memória szerepevalószínűleg jóval több annál, hogy valamilyen konkrét dolog emléke tárolódhat benne. Mindennapi életünkben másodpercenként számtalan információ ér bennünket, ezek egy részére képesek leszünk visszaemlékezni, a legtöbbet látszólag elfelejtjük, de hatásuk nem tűnik el, beépülnek a hosszú távú memória sok milliárd neuront tartalmazó kapcsolatrendszerébe, és megváltoztatják a viselkedésünket. Ha valami kellemetlenség ért gyermekkorunkban, de nem volt komoly eset, nem is emlékszünk rá, de előfordulhat, hogy bizonyos szituációkban aktiválódik, és befolyásolja a viselkedésünket. Ezért vagyunk annyira különbözőek.
Mielőtt a „beszélgető” kompjúterekre térnénk, érdemes még a nyelv szerepével is foglalkoznunk. A külső világról érzékszerveink segítségével veszünk tudomást, de ezek nagyon leegyszerűsítik számunkra a világot, bizonyos hang, fény, illat, íz és tapintási tartományokat vagyunk képesek érzékelni, és a világ nagy része észrevétlen számunkra. A mágnességet, az elektromosságot, a radioaktivitást például nem érzékeljük, pedig nagy szerepet játszanak az emberiség életében.
Hasonló előnyöket és korlátokat nyújt a beszélt, írott nyelv is. Szavainkkal megjelölünk természeti tárgyakat, jelenségeket, emberi kapcsolatokat, és a kulturálisan kialakított, gyermekkorban megtanult nyelv segítségével ezekkel kapcsolatos gondolatainkat, elképzeléseinket megoszthatjuk társainkkal. A gondolatok közvetlenül nem oszthatók meg, de ha megtaláljuk azt a mondatfüzért, amely a legjobban megfelel annak, amit gondolunk, és azt elmondjuk, akkor társunk vagy közösségünk találgathatja, mire is gondoltunk. Kérdeznek, válaszolunk, és amikor úgy gondoljuk, hogy társunk hasonló vagy ugyanolyan gondolatokkal foglalkozik, mint mi, akkor azt mondhatjuk: megértettetek!, én is ezt gondolom. Ez azért nem tökéletes gondolat-nyelv fordítás, mint ahogyan az érzékszervek is csak a létező információ kis részét közvetítik a világból felénk.
Térjünk át a kompjúterekre. Az emberi elmét sokféleképpen lehet elképzelni, sokféleképpen lehet számítógépen modellezni. A pillanatnyilag legsikeresebb modellek a „nagy nyelvi modellek”, amelyek azon az elképzelésen alapulnak, hogy a beszélgetés során a gondolatok legtöbbje nyelvi formában jelenik meg. Ismerünk nyelvtani szabályokat, ezek mindig csak egy adott nyelvre érvényesek, egy-egy kultúra hozta létre őket, és körülbelül hatezer nyelvet ismerünk. Közös bennük az, hogy szavakkal jelölünk dolgokat, jelenségeket, cselekvéseket, absztrakciókat, a szavakat valamilyen sorrendben mondatokká fűzzük, és a mondatoknak, amelyeket tetszés szerint bővíthetünk, jelentésük van. Ha mondjuk azt kérdezzük valakitől, hogy mi történik, ha egy kis nyuszi egy éhes rókával találkozik, az illető feltehetőleg azt válaszolja, hogy a róka megeszi a nyuszit. És mivel mindketten sokat hallottunk, olvastunk, láttunk filmeket ragadozókról, prédaállatokról, elfogadjuk a választ, és akár el is képzelhetjük, hogyan kapja el a róka a nyuszit, hogyan öli meg és falja fel. Megértésünk azokon az élményeken alapszik, amelyeket ebből a tárgykörből szereztünk. A válaszmondat – a róka megeszi a nyulat – a kompjúterben nem tartalmaz ezzel kapcsolatos élményeket, pedig mi az élmények alapján értjük a mondatot. A kérdező általában elfogadja a választ, ha olyan szavak szerepelnek benne, amelyek megfelelő nyelvtani sorrendben utalnak a mondat értelmére, de nem feltétlenül ellenőrzi azt. Ennek alapján nyilvánvaló, hogy ha két ember egy témáról beszélget, akkor elméjükben a témához tartozó szavak bizonyos statisztikai valószínűséggel felbukkannak, és ha nyelvtanilag helyes a szavak sorrendje, értjük, hogy mit mond. Akkor is, ha partnerünk a mondat összerakása során nem is gondolkodott, ezért egyáltalán nem biztos, hogy az elhangzott mondat szerzője maga is érti a mondatokat, vagy csak ügyesen választotta ki a megfelelő szavakat. Mint egyetemi vizsgáztató sokat mesélhetnék erről. Ha kérdésünkre azt a válaszolt kapjuk, hogy a róka kifesti a nyulat, azonnal tudni fogjuk, hogy probléma van, az illető nem tudja, miről beszélünk.
Nézzük a kompjútereket! Villámgyorsak. Ha elhangzik a kérdés, mit csinál az éhes róka, ha találkozik a kisnyúllal, a számítógép megnézi a memóriájában tárolt szövegekből, hogy mely szavak fordulnak elő leggyakrabban az éhes, a róka, a nyúl körül, és ha ezeket kiválogatja, nyelvtanilag helyesen összefűzi, megadhatja a helyes választ, pedig közben nem gondolkodott, nem idézett fel saját emlékeket, nem kalandozott el a szavak mentén régen látott képekre, mégis képes elfogadható választ adni. A kompjúter beszélget velünk, de közben nem gondolkodik. Egy kreatív, de még egy átlagos képességű ember is a kérdés elhangzása után gondolkodhat, sokféle dolog eszébe juthat; látott ilyen eseményt a valóságban, filmen, olvasott róla, gyerekkorában ezért félt a rókától, és még ezernyi más juthat eszébe, de ő is válaszolni akar lehetőleg egyszerűen, ezért megértve a kérdést, összerakja a megfelelő válaszmondatot. Láthatjuk az óriási különbséget a két módszer között. A kompjúter vagy a nem gondolkodó ember statisztikai módszerekkel megfelelő szavakat válogat, a gondolkodó ember gondolkodik, élményei felidézésével megérti a kérdést, és ennek alapján alkotja meg válaszát. Az is előfordulhat, hogy az ember sem gondolkodik, a gyors statisztikai módszert választja ő is. A kompjúter csak a statisztikát alkalmazhatja.
Fontos felismernünk, hogy a kompjúter módszerét mi is gyakran használjuk. Sokszor kerülünk olyan helyzetbe, hogy beszélnünk kell valamilyen mindennapos dologról, beszélünk, használjuk a megfelelő szavakat, de közben egészen másról gondolkodunk. Megyünk az utcán, szembejön egy ismerős, nem barát, de olyasvalaki, akivel illik néhány mondatot váltanunk. Milyen régen találkoztunk, hogy van a család, mennek-e az idén nyaralni, sokféle dologról kérdezhetjük, és csak arra kell ügyelnünk, hogy a kérdéshez megfelelő szavakat válasszunk, és ügyeljünk a sorrendre. Ő valószínűleg ugyanígy tesz. Beszélgettünk, és közben nem gondolkodunk, legalábbis nem arról, amiről beszéltünk, mert éppen azon morfondírozunk, hogy ki a fene lehet ez a pasas, biztosan ismerjük egymást, de én már nem emlékszem, pedig ő nagyon lelkes, hogyan lehetne megszabadulni tőle anélkül, hogy megsérteném.
Ismerjük ezt a jelenséget, de csak mostanában jövünk rá, hogy milyen fontos a beszélgetést elkülöníteni a gondolkodástól, most, hogy a kompjúterek elkezdtek beszélgetni. Nagy a memóriájuk, rengeteg szöveget tápláltak be a memóriájukba, gyorsak, számtalan téma, a témát bemutató szó lehet bennük, és az ügyes programok számunkra érthető mondatokat rakhatnak össze ezekből. Örülhetünk neki, használhatjuk, és már muszáj is használnunk, mert egyre több vállalat alkalmaz kompjútereket élő ember helyett egyszerűnek vélt problémák megbeszélésére. Feltételezem, sokan bosszankodtak már, amikor a telefonban egy kompjúter jelentkezett, és meglehetősen mereven osztályozva a lehetséges problémákat, azt kérdezte, melyik a mienk. A mienk mindig bonyolultabb. Az emberi alkalmazottra várni kell, az idő meg szalad. De nem érdemes aggódni, a kompjúterek egyre ügyesebbek lesznek, és a beszélgetések egyre eredményesebbek.
Félni mitől kéne? Unalmas, egyhangú munkákat gépek fogják végezni; egész történelmünk arról szól, hogy a nehéz munkákban hogyan helyettesítenek a gépek. Most az unalmasak következnek.
Akik aggódnak, főleg attól félnek, hogy a kompjúterek sokkal-sokkal okosabbak lesznek, mint mi, és kezükbe veszik sorsunk irányítását. A kérdés lényege, hogy lehet-e gondolkodó kompjútert készíteni, olyanformán gondolkodót, mint mi.
A bevezetőben említettem, hogy mindent lehet utánozni, másolni, de néhány dolgot figyelembe kéne venni. Mondjuk elkészítenek egy ember módjára gondolkodó masinát, amelyik „sokkal” okosabb nálunk. Azt ugye még senki sem tisztázta, hogy a sokkal az mit jelent. De elkészült, és ott üldögél az asztalon. Mondjuk először arra kérem, hogy javítson az anyagi helyzetemen. Mennyid van, kérdezi. Kevés, válaszolom, néhány tízezer. Rendben, a kompjúter elkezd játszani a tőzsdén, sokat nyer, mert nagyon okosan játszik, majd vásárol ingatlanokat, gyárakat, vállalatokat. Persze ezt csak a gazdasági életbe illeszkedve teheti. Ott kevés embernek fog feltűnni, hogy egy okosabb új szereplő jelent meg, hiszen mindig megjelennek a többinél okosabb szereplők, ez mozgatja a gazdaságot. Nekem egy okos kompjúterem van, és ezzel szemben nyolcmilliárd biokompjúterrel, aggyal rendelkező lény áll, akik között előfordulnak szintén okosak. Sokan vannak, nagyon sokan, és viselkedésüket az én kompjúteremnek igencsak figyelembe kell venni. Mondjuk húsz év alatt mégis én leszek a világon a leggazdagabb ember. Mi változott a világban? Megint lesz egy leggazdagabb ember, és az történetesen én leszek. Ha másoknak, sokaknak is lesz ilyen rettentően okos kompjúterük, akkor is hasonló a végeredmény. Az egyik ember a leggazdagabb lesz, és a világ problémái nem oldódnak meg.
Változtassunk a módszeren, ne az enyém legyen az az okos kompjúter, hanem a nagy globális döntéshozók valamelyikéé. Milyen tanácsokat adhat egy fene okos kompjúter a világnak, hogy a klímaválság, a populációrobbanás, az egyenlőtlen jövedelemelosztás, a bioszféra pusztulása megszűnjön? Fel tudnám sorolni; csökkenteni a populációt, visszafogni a szén, gáz, olaj égetését, stb. Ezt már tudjuk, Kim Stanley Robinson is megírta a Jövő minisztériuma című kitűnő sci-fi-könyvében. Ehhez nem kell fene okos kompjúter. Az a probléma, hogy tudjuk, de nem csináljuk. Ha erőszakos módszereket ajánlanak, azokból nem kérünk, ha békéseket, azoknak a hatékonyságát nem hisszük el. Amikor megcsinálták a kovidvírus elleni oltóanyagot, a bolygó lakóinak negyede nem hitte el, hogy a betegséget vírus okozza. Nyolcmilliárd biokompjútert nehezen lehet bármiről meggyőzni.
Amitől igazán félnünk kell, az a saját hülyeségünk.
És ez adhat ötleteket az okos kompjúternek. Ha megnézzük a mai világot, látszik, hogy a hatalom legfőbb forrása nagy tömegek meggyőzése valamiről, ami nem nekik, hanem a meggyőzést serkentő embernek vagy csoportnak fontos. Naponta százával látunk, hallunk, olvasunk reklámokat – vegyük meg, mert csodálatos, a legjobb, a legolcsóbb, és fenséges érzést okoz a birtoklása. A reklámok nagy része bűnrossz, rosszul van összerakva, nem éri el a célját. Az okos kompjúterek segíthetnének, és már el is kezdték a segítséget. Várhatjuk, hogy egyre meggyőzőbb, egyre hatékonyabb reklámok lesznek. Szerencsére sohasem lesz elég pénzünk arra, hogy mindent megvegyünk, úgyhogy az okos reklámokat is túl lehet élni.
Sokkal veszélyesebb, és ez tényleg aggodalomra érdemes, hogy nemcsak árukat, hanem ideológiákat, politikai nézeteket is lehet majd okos kompjúterek segítségével népszerűsíteni, és akinek több pénze lesz, annak okosabb ideológia áll majd rendelkezésére. Narcisztikus világmegváltók lesznek népszerűek hetek alatt a megfelelő okos kompjúter segítségével. Persze pénze sok embernek van, és azt a véleményt, hogy a narcisztikus személy egy zsarnok, és dinasztiája tönkreteszi az országot, szintén okos kompjúterek fogják terjeszteni. Amíg lehetőségünk, jogunk van a vélemények közül választani, megint csak a saját hülyeségünk lehet a korlát.
A fenti véleményemet természetesen kompjúter segítségével hoztam létre, de ő még csak a leírásban segített.
Vissza a tetejére