Van-e morálja a mesterséges intelligenciának?

A mesterséges intelligenciáról, a robotizációról, a start-up mánia veszélyeiről és az innovációval kapcsolatos más problémákról is volt szó a Brain Bar nevű fesztiválon, amelyet május 31 és június 2 között rendeztek meg Budapesten a Corvinus Egyetemen. A fesztivál meghívott vendége volt Köves Slomó, az EMIH vezető rabbija, akivel a zsido.com készített interjút.

– Mi az, ami elsőként eszébe jut a mesterséges intelligencia kapcsán?

– Elsősorban azt a fajta pánikot tartom érdekesnek, ami ezzel kapcsolatban a köztudatban elhatalmasodik. Azt sugallják a youtube-videókban és a hollywoodi filmekben felvázolt disztópikus képek, hogy a robotok átveszik a hatalmat, a robotok bolygója leszünk, és hogy ez milyen nagyon veszélyes. Ha nem lépünk időben, akkor megjósolhatatlan, hogy mi történhet stb.

Nyilván van alapja némi félelem­nek ezzel kapcsolatban, de meglátásom szerint ez inkább egy társadalompszichózis. Egészen pontosan az embereknek azt az igényét elégíti ki, hogy félhessen valamitől (olykor a környezetvédelem kapcsán is tapasztalhatunk ilyen „vadhajtásokat”). Az individualista gondolkodás manapság nagyon erős – ha kivesszük Istent a rendszerből, akkor ennek a gondolatnak az a lényege, hogy nekünk mint individuumoknak a célja a saját érvényesülésünk. Az egyén vagyonszerzése, saját ma­gunk bebiztosítása – az egyéni örö­mök. Ezek nagyon fontos dolgok természetesen, de ha öncélúvá vál­nak, akkor azt a téves üzenetet sugallják, hogy elérhetjük a korlátok nélküliséget. Minden elérhetővé válik, semmi sem kell és semmi sem szabad, hogy kielégülésünket, létünket gátolja. És amikor a korlátok mégiscsak felbukkannak (mint például a robotizáció által eredményezett önreflexió), akkor pánikba esünk. Rájövünk, hogy bármennyire is szeretnénk, nem tudunk is­tenekké válni. Éppen a korlátlan­sá­gunkat erősíteni hívatott saját te­remt­ményeink tolják az arcunkba mér­hetetlen korlátoltságunkat.

Létezésünk célját nem szabad elfelejtenünk és azt sem, hogy létünk nem korlátlan. Ha nincs egy magasabb rendű létezés, ami az egésznek célt ad, akkor automatikusan jön a pánik, valamitől félni fogunk. Attól fogunk félni, hogy felismerjük a saját korlátainkat. Tulajdonképpen ez egy pótvallás – a rettegés vallása.

– Miért állítja, hogy erre az emberi bizonytalanságra, ami szerintem természetes, megoldást ad az istenhit?

– Addig, amíg az ember azt vallja, hogy van Isten, a korlátozott és felfogható létezés fölött van egy felfoghatatlan, addig automatikusan belátja a saját korlátait. És ezzel együtt, ez nem kelt benne félelmet, mert hiszi és tudja, hogy az egésznek van egy célja. Ha viszont céltalan, akkor az egész létezésünk csak az individuumnak a kiterjesztése és a „jóérzés-hormon” felszabadulásának elérése lesz. Viszont abban a percben, amikor felismerjük ennek a korlátait, mérhetetlenül megijedünk. Rájövünk, hogy a jólét ígérete nem örök, hogy a kielégülésnek egyszer fájdalmasan vége szakad, és előre félünk a pillanattól, amikor fel kell majd ismernünk saját korlátainkat.

Szeretnénk jól élni. Sőt! Jelen kultúránkban a jólét szinte a legfontosabb ígéret, a legfontosabb kulturális toposz. Egy materialista létfelfogásban nincs több mint a matéria, tehát a dolognak nem lehet több célja a matéria gyarapodásánál, a fizikai jólétnél. Technológiai fejlődésünk is ezt a jólétet gyarapítja. Csakhogy miközben örülünk a technológiai fejlődésnek, félünk is tőle. Attól tartunk, hogy a jóllétünk érdekében tett lépések hosszú távon, éppen a jóllétünket veszik majd el. Olyan ez, mint egy modern gólem, amely alkotója ellen fordul.

Ez az MI-vel kapcsolatos félelemnek a metafizikai része. Az az elem, amely számomra, rabbi számára talán a legérdekesebb és legtanulságosabb, talán éppen azért mert, megítélésem szerint, nem sok köze van a racionalitáshoz. Itt jutunk el az egész témának a mélységéhez: soha nem fog egy gép az ember szintjére emelkedni, és ezért emiatt nem is érdemes pánikolni.

– Miért olyan biztos ebben? Meg lehet valahol húzni egy esszenciális határvonalat egy élőlény és egy gép között?

– Meg. A határvonal a tudat. Tud a saját létezéséről. Egy példa: egy műveltségi vetélkedőben egy szoftver legyőzött nagyon okos embereket, mindenki arról áradozott, hogy ez milyen fantasztikus. Másnap azonban megjelent egy cikk, amelyben felvetették, hogy igen, nagyon okos ez a szoftver. Minden tud. Csak éppen azt nem tudja, hogy nyert. Itt a lényeg: a gépnek nincs tudata. A tudat az, amikor a begyűjtött információt nem csak felhasználjuk és kiadjuk, hanem egy személyes vonatkozást rendelünk hozzá. Van az információ, vagyunk mi és a mi viszonyunk az információhoz.

A Kabbalában ezt a szintet hívjuk a tudás harmadik szintjének, dáátnak. A harmadik szint attól tudás, hogy abból fakadnak az érzelmek. Hogy valamit tudunk, és ahhoz van egy személyes viszonyulásunk. Egy számítógép – ahogy egy ember is – tudhatja, hogy valaki kedves, de attól még nem táplál érzelmeket az irányába, mint egy ember. Neki van személyes viszonyulása az egészhez. A tudat alapja, hogy tudjuk, hogy létezünk és szeretnénk létezni. Nem tudjuk megmagyarázni, hogy miért, de az alap a létezésre való vágy. Ez mozgat mindent a legkisebb szúnyogtól Albert Einsteinig. És a kreativitás is ebből fakad. A kis szúnyog is tudja, hogy ha közeledik az árnyék – amely a rá lecsapó kezet jelzi –, melyik irányba repüljön el, ha tovább szeretne élni. Ugyanígy Einstein, aki meg akar oldani egy problémát, a saját létezésében szeretne előrébb jutni. Egy számítógépben ez nincs meg. Ő benne is lepöröghet a túléléshez szükséges algoritmus, de ehhez nem fog társulni a félelem, az ijedtség vagy éppen a siker érzése. Éppen ezért nem tud újabb feladatot sem kitalálni, azt a feladatot tudja megoldani, amit megadunk neki. Az érzelmi intelligenciában egy szúnyog is fejlettebb a legfejlettebb MI-nél.

Az eredeti teljes cikk itt olvasható.