A negyedik parancsolat a pihenés és a megújulás fontosságát hangsúlyozza. Ez a szabály arra ösztönöz minket, hogy egy napot szenteljünk a pihenésnek és a lelki feltöltődésnek, amely segít abban, hogy kapcsolatba lépjünk önmagunkkal és a körülöttünk lévő v

Valóban szükség van arra, hogy a robotok működését szabályozó jogi keretek, szerződések és korlátozások létezzenek? Ez a kérdés nem pusztán elméleti, mivel a válasz egyértelműen igen. Főként akkor, amikor a gépek szerepe a szellemi tevékenységekben is egyre hangsúlyosabbá válik. A technológia fejlődésével elkerülhetetlenné válik, hogy megalkossuk azokat a szabályokat, amelyek biztosítják a felelősségvállalást és a biztonságos együttélést az ember és a gép között.

"Csak nézzétek, a drága jószág / hogy elvadult, a gép! / Törékeny falvak reccsennek össze, / mint tócsán gyönge jég, / városok vakolata omlik, / ha szökken; s döng az ég." (József Attila: A város peremén)

Manapság a mesterséges intelligencia (MI) szédítő sebességgel hódít, és szinte félelmetes mértékben alakítja át életünket. De vajon áldás vagy átok ez a fejlődés? A válasz talán mindkettő, hiszen minden új technológia, az ősi tűz hódításától kezdve az űrutazásig vagy a számítógépek elterjedéséig, magában hordozza a jót és a rosszat egyaránt. A tűz például az emberiség egyik legnagyobb felfedezése volt, amely számtalan előnnyel jár, ám Prométheusz sorsa figyelmeztet minket a következményekre. Az újabb technológiák, mint a számítógépek és az MI, szintén rengeteg haszonnal kecsegtetnek, de egyúttal a sötét oldalukat is felfedeznünk kell, hiszen a potenciális károk és veszélyek még csak most bontakoznak ki előttünk.

A mesterséges intelligencia emberi szolgálatra való alkalmazása nem mai találmány. Ha visszatekintünk a múltba, említhetjük a Gólemet, a legendás agyagszolgát, akit gazdája viszonylag könnyedén tudott irányítani és visszaalakítani élettelenné. Az idő múlásával, a modern kor irodalmában Karel Čapek 1920-as R.U.R. (Rossum Univerzális Robotjai) című színdarabja hozta el a gépek önállóságának gondolatát, bemutatva az alantas, monoton feladatokat ellátó robotokat. Két évtizeddel később, 1942-ben, egy fiatal biokémikus, Isaac Asimov, sci-fi novella keretein belül mutatta be a robotok társadalmi integrációját szabályozó hármas törvényét. Azóta Asimov, a zsidó-orosz származású író, a robotika terén elért munkáival világszerte ismertté vált, és két generáció számára is népszerű olvasmányokat teremtett, amelyek az emberiség jövőjét firtatják. Az Alapítvány-sorozat, A mezítelen nap, és Én, a robot című művei mind hozzájárultak a robotika és a mesterséges intelligencia iránti érdeklődés fellendüléséhez.

Érdemes emlékezetünkbe idézni Asimov híres három alaptételét a robotika terén: (1.) Egy robot nem okozhat kárt az embereknek, és nem állhat tétlenül, ha emberi lények kárba jutnak; (2.) A robotnak engedelmeskednie kell az emberek parancsainak, kivéve, ha ezek az utasítások ellentétesek az első tétellel; (3.) A robotnak gondoskodnia kell saját védelméről, amennyiben ez nem ütközik az első vagy második tétel rendelkezéseivel.

A szép és bölcs előírások valóban figyelemre méltóak, csakhogy sajnálatos módon ezek csak a békés alkalmazások alapjait képezik. Az emberiség hajlamos arra, hogy a legújabb technológiai vívmányokat, akárcsak a legkreatívabb eszközöket, háborúra, erőszakra, területek, vagyonok és hatalmak megszerzésére használja. Csak néhány példát említve: a gépkocsi, amely a szabad mozgás és szállítás csodás eszköze, a harcok során páncélkocsiként funkcionálhat. A repülőgépek, amelyek képesek nagy távolságokat gyorsan áthidalni, szőnyegbombázásra is alkalmazhatók. Az emberi kommunikációt forradalmasító számítógépek és a belőlük kialakuló hálózatok, valamint az űrkutatás is gyakran a háborúk és terrortámadások, valamint a romlott kommunikációs formák szolgálatába állnak. Nem feledkezhetünk meg arról sem, hogy sok esetben ezeket az eszközöket eredetileg katonai célokra fejlesztették ki.

Napjainkban drámai gyorsasággal tanúi lehetünk a technológiai alkalmazások átalakulásának és fejlődésének. Az önállóan tanulni képes, mesterséges intelligenciával rendelkező programok szinte robbanásszerűen terjednek el, és bár az angol „AI” (Artificial Intelligence) kifejezés vált uralkodóvá, én, mint magyar, inkább a „MI” (Mesterséges Intelligencia) rövidítést részesítem előnyben. Minden nap újabb lenyűgöző virtuális segítők bukkannak fel a digitális világban, a médiában, sőt, a mindennapi életünkben is, ami lehetőséget ad arra, hogy bárki áldozatul essen a megtévesztésnek vagy csalásnak. A legnagyobb veszélyt az jelenti, hogy ezek az intelligens eszközök a felhalmozott és strukturált adatok alapján képesek tanulni, így tudásukat folyamatosan fejleszteni, módosítani és finomítani tudják – sok esetben már emberi beavatkozás nélkül is. Az Egyesült Államok jelenlegi kormányzata által célkeresztbe állított és a leépítés szélén álló FBI (Szövetségi Nyomozóiroda) 2024-ben közzétett Internet Bűnözési Tanulmányából kiderül, hogy a technológiai manipulációkból és csalásokból származó kár már meghaladta a 10 milliárd dollárt. A számok mögött azonban sokkal nagyobb veszélyek húzódnak meg: az álhírek és hamis információk terjedése, melyek a politikai, üzleti és mindennapi életünkben egyre inkább elterjedtek, és a jövőben várhatóan még gyakoribbá válnak.

Emlékezhetünk a néhány hete Kaliforniában pusztító borzalmas tűzvészre. Rettenetesen gyors és szinte megállíthatatlan terjedését a védőintézkedések gyenge, igencsak hézagos léte is okozta. Egyebek között rosszul tervezték a hatalmas víztározómedence karbantartásának időzítését, emellett nagyon nem bölcsen, holmi erősen túlzó környezetvédelmi felfogásból nem irtották a száraz aljnövényzetet. Némileg hasonlóvá válhat a generatív, vagyis a tanuló, önmagát fejlesztő MI tűzvészsebességű és -elterjedésű használata is. Nem holnapután, nem is holnap, hanem akár már ma. Rendkívüli veszélyt jelent, hogy erős érzelmi hatásokat válthatnak ki az élethű avatárok (a hindu vallásból származó fogalmat a mára vetítve: ember külsejű, MI-vel kommunikáló mesterséges lények) által küldött üzenetek. Különösen a gyermekek és az ifjak, de persze a hiszékeny felnőttek körében is. Természetesen igen hatékony eszközzé válhat a generatív MI a politikában, a csoportos megtévesztésekben, uszításokban, befolyásolásban.

Nem meglepő, hogy máris nagyon erősen terjed a nézet a gondolkodók, főleg a tudomány emberei körében: hogyan lehet vagy legalábbis lehetne korlátozni ezeket a veszélyeket. Érdekes javaslat jelent meg például a minap az Elektromos és Elektronikus Mérnökök Nemzetközi Egyesületének (IEEE) folyóiratában Dariusz Jemielniak lengyel professzortól, aki felveti, hogy célszerű bevezetni Asimov híres három robot-törvénye mellé egy negyediket. Ez az új törvény az immár intelligens, önmagukat fejleszteni és a velük kommunikáló embert megtéveszteni képes "okos" robotok korlátozását szolgálhatja.

Íme, itt van a javasolt negyedik robot-törvény: A robotoknak és mesterséges intelligenciáknak tilos olyan módon cselekedniük, hogy emberi lényként álcázzák magukat, így megtévesztve az embereket.

Nyilvánvaló, hogy ennek a meglehetősen általános rendelkezésnek a részletes kidolgozása, és különösen a betartásának biztosítása érdekében rendkívül alapos, hosszadalmas és többszörösen egyeztetett tudományos, technikai és politikai erőfeszítések szükségesek, vagy, hogy még inkább a gyakorlatra utaljunk: szükségesek lennének.

Természetesen! Kérlek, írd le a szöveget, amelyet egyedivé szeretnél tenni, és szívesen segítek átfogalmazni vagy kreatívabb formában megjeleníteni!

Megvalósíthatók-e valaha a tudósok által, köztük Asimov, a neves biokémikus és író által megfogalmazott robot-törvények? E kérdésben erősen kétségeink lehetnek, noha bizonyos körülmények között és korlátozott mértékben talán van némi esély a sikerre. Ilyen példaként említhetjük a nukleáris fegyverek alkalmazását szabályozó nemzetközi megállapodásokat, amelyek eddig sikeresen megakadályozták e rettegett fegyverek használatát.

Miközben a saját gondjaimról írok, eszembe jutott egy régi, különösen érdekes könyv, amelyet nemrégiben újra elővettem. A szerző, Szathmári Sándor (1897-1974), aki eredetileg gépészmérnök volt, a Kazohinia című remekmű alkotója, 1972-ben megjelent művében, a Gépvilágban, mélyen elgondolkodtató témákat feszeget. Sajnos úgy vélem, hogy manapság már kevesen ismerik Kazohiniát, ezt a valóban figyelemre méltó filozófiai regényt, ezért úgy érzem, megér egy pár szót a nagyszerű látomás, amelyet Szathmári megalkotott. A történet középpontjában Gulliver doktor áll, aki megint csak hajótörést szenved, és egy ismeretlen szigetre vetődik. Itt két különböző társadalommal találkozik: az egyik a hineké, akik a megvalósult kommunizmus megrázóan riasztó világát képviselik, a másik pedig a behineké, akik a korunk kapitalizmusának keserű szatíráját testesítik meg. Nem meglepő, hogy ezt a művet mind a Horthy-, mind pedig a Rákosi-korszak idején üldözték, és csak a későbbi Kádár-korban, a cenzúra nélküli megjelenésével találkozhatunk. Szathmári írása tehát nem csupán szórakoztató, hanem mély társadalmi kritikát is hordoz, amely ma is aktuális kérdéseket vet fel.

A "Gépvilág" című írás napjaink társadalmi és gazdasági folyamatait megdöbbentő élességgel tükrözi: "Ahogy a fizikai munka mértéke csökkent, úgy a szellemi tevékenység aránya folyamatosan nőtt, és ez sokszor fárasztóbbá vált, mint maga a testi munka. Az automatizált gyártás olyan szaktudást követel meg, amelyet az emberi elme már nem képes maradéktalanul befogadni. Hiába tagolták a termelési folyamatokat egyre specializáltabb területekre, ezek mindegyike olyan magas szintű tudást igényelt, amely meghaladta az emberi képességeket. Ennek következményeként a gépekkel való tervezés egyre nagyobb teret nyert."

Azután fokról fokra a gépi intelligencia veszi át az emberektől a legmagasabb tervezési, majd irányítási tevékenységeket. Természetesen az egyes nagy országok az egyre okosabb és fejlődni is képes gépeket használják ki az egymás elleni területfoglalásokra, hódításokra, az ellenség leigázására. De a gépi "bölcsesség" fokról fokra teljesen felülírja a mesterséges intelligencia számára nem-logikusnak ítélt emberi törekvéseket - és végül kipusztítja a gépek felett uralmat vesztett emberiséget. A Földet birtokba veszi a gépek világa.

Vészjósló látomás. Bátor ellentmondásokat fogalmazhatunk meg, hiszen mindez csupán egy író képzeletének gyümölcse, amely több mint ötven éve született. Mégis, érdemes észrevennünk, hogy George Orwell klasszikusa, az 1984, immár közel hetven éve látott napvilágot, és a modern világunk sok aspektusában egyre inkább aktuálissá válik.

Valóban szükség van arra, hogy a robotok működését szabályozó jogi keretek, szerződések és korlátozások létezzenek? Ez a kérdés nem pusztán elméleti, mivel a válasz egyértelműen igen. Főként akkor, amikor a gépek szerepe a szellemi tevékenységekben is egyre hangsúlyosabbá válik. A technológia fejlődésével elkerülhetetlenné válik, hogy megalkossuk azokat a szabályokat, amelyek biztosítják a felelősségvállalást és a biztonságos együttélést az ember és a gép között. Még igencsak nehéz, hosszas kialakítást, újabb meg újabb egyeztetést, rengeteg időt, tárgyalást igénylő munka kell a szabályozások megfogalmazásához, nemkülönben a végrehajtást és az annak betartását biztosító ellenőrzések megvalósításához. Ezekhez képest Asimovnak a korábban csak fizikai munkát végző, ám egyre intelligensebb robotokba beépítendő hármas törvénye, meg Jemielniaknak a negyedik kiegészítése éppoly szép, bölcs és követendő előírás, mint a Mózes által a hegyről lehozott, Istentől elrendelt Tízparancsolat. Szép, bölcs és követendő, Isten által elrendelt parancsok ezek - ám következetesen és teljességgel mikor és mennyire tartotta be őket az emberiség?

Természetesen! Kérlek, írd le a szöveget, amelyet egyedivé szeretnél tenni, és szívesen segítek átfogalmazni vagy kreatívabb formában megjeleníteni!

A költő víziójával indítottam ezt a gondolatmenetet, és most, az utolsó sorokban is az ő szellemiségét idézem fel:

"És látjuk már, hogy nemsoká / mind térdre omlotok / s imádkoztok hozzá, ki pusztán / a tulajdonotok."