A világhírű izraeli történész szerint Ráadásul a technológiai fejlődés mai üteme mellett ez végzetes lehet, ha például egy mesterséges intelligencián alapuló totalitárius rendszert hozunk létre vagy kirobbantjuk a harmadik világháborút. Ma van Sávuot, a Tóraadás és a tanulás ünnepe.
A mesterséges intelligencia (AI) robbanásszerű fejlődését egyesek új ipari forradalomként értelmezik, mások viszont az emberiség pusztulásának veszélyét látják benne, és azt mondják, le kell állítani legalább átmenetileg a fejlesztéseket.
Március végén nyílt levelet írtak alá a leállítás-pártiak, többek között Yuval Noah Harari, Elon Musk és számos híres AI-kutató (Gary Marcus, Yoshua Bengio, stb.), írja a qubit.hu. Azzal érveltek, hogy a ChatGPT alapját is képző nagy nyelvi modelleket senki, de még a létrehozói sem képesek megérteni, kiigazodni rajtuk, vagy megbízhatóan felügyelni.
A Le Point francia magazin interjút készített Hararival, aki szerint kérdéses, hogy milyen kezekbe kerül a technológia. Azt ugyanis a fejlett chatbotoknak hála már most nehéz eldönteni, hogy tényleg egy másik ember van-e a túloldalon, amikor az interneten beszélünk valakivel. Márpedig Harari úgy látja, hogy a techvilágban most ugyanakkora verseny folyik az emberek intimitásáért, amekkora 10-15 évvel ezelőtt az emberek figyelméért – akkor a közösségimédia-cégek arra hajtottak, hogy mindenki osszon meg mindent nyilvánosan, míg a chatbotokkal a személyes, bensőséges beszélgetés lehetőségét kínálják. Ráadásul ez egy sokkal erőteljesebb állapot: ha sikerül elérni, hogy az ember megbízzon az AI-asszisztensében, mert az mondjuk 95 százalékban hasznos és helyes válaszokat ad, akkor szinte észrevétlenül csúszik át a rendszeren a maradék 5 százaléknyi befolyásolási kísérlet, amit valaki beletáplált.
És ha a Facebook vagy a Google kőkorszaki hirdetési algoritmusainak sikerült elérni, hogy átvegyék az irányítást az emberek vásárlási szokásai felett, egy meggyőzően érvelő chatbot rá tud venni bárkit, hogy például egy adott politikai irányzat felé forduljon.
Harari szerint az AI az első olyan eszköz, ami valóban kiveheti az emberek kezéből a döntéshozatal folyamatát. Ráadásul a technológiai fejlődés mai üteme mellett ez végzetes lehet, míg a 20. században még tudtunk tanulni a hibáinkból. A világháborúk szörnyűségei, a nácizmus vagy a kommunizmus kudarcos kísérletei emberek százmillióinak életét tette tönkre, de végül megtanultunk, hogyan kell jobb ipari társadalmat építeni.
„De ha például egy mesterséges intelligencián alapuló totalitárius rendszert hozunk létre, vagy kirobbantjuk a harmadik világháborút, talán már nem lesz visszaút. A 20. századot csak azért éltük túl, mert a technológia nem volt elég erős ahhoz, hogy elpusztítson minket. A 21. század technológiája sokkal erősebb. Ha a jelenlegi technológiával ugyanolyan hibákat követünk el, nagy az esélye, hogy nem éljük meg a tanulságok levonásának lehetőségét.”
-
Zsidónak lenni nem kerül pénzbe, a zsidó média viszont nincs ingyen.
Támogasd te is Magyarország egyik legolvasottabb zsidó lapját, a Kibic Magazint!
