A gépek egy napon majd logikusan gondolkodnak. A gépeknek egy napon majd érzelmeik lesznek. A gépek egy napon öntudatra ébrednek, és átveszik a hatalmat.
Míg az első kettő már nincs is olyan messze, a harmadik állítás komoly dilemma a fantasy írók és a tudósok körében is. Mitől tarthatunk jogosan?
Lehet-e egy robot rasszista?
Kezdjük a kérdést az érzelem kérdéskörével: képes lehet-e a robot arra, hogy szeretetet, vagy gyűlöletet érezzen? Utálhat-e egy embercsoportot, vagy akár megutálhatja-e a teljes emberi fajt?
Nos, a Twitterre ráengedett AI chatbot erre a kérdésre látszólag 24 órán belül igennel válaszolt. Tay a Microsoft egyik kísérleti programja volt, amit azzal a céllal hoztak létre, hogy kötetlen és játékos beszélgetést folytasson az emberekkel, és tanuljon minden beszélgetésből. A hiba azonban a felhasználókban volt: a humanoidok nagyon hamar a rasszizmusra és a Trump-kormány kritizálására terelték a szót, Tay pedig papagájként mondta vissza azt a sok negatív véleményt, amit az emberektől tanult.
Szerencsére azonban nem kell attól tartani, hogy Tay leigázza az emberiséget, hiszen ezek nem a bot saját gondolatai, csupán a kapott információk tükrözései; a program lehetőséget adott arra, hogy szó szerint megmondják, mit írjon ki, így nagyon sokan használták egyfajta nyilvános szócsőnek. És itt jön be egy izgalmas csavar a „veszélyes-e az AI” kérdéskörbe: már nem az a kérdés, hogy milyen hatással lesznek ránk a robotok, hanem az, hogy milyen hatással leszünk mi a robotokra? Bármikor ilyen, és hasonló problémákba ütközhetünk, ha nem szabunk meg elég világos paramétereket ahhoz, hogy az AI chatbotok mit és hogyan sajátítsanak el.
Az AI valós veszélyei
Az egyelőre nem fenyeget minket, hogy a robotok öntudatra ébrednek és leigázzák az emberiséget, de az egyre okosodó szoftverek rossz kezekbe kerülve valóban okozhatnak komoly problémákat – erről szól a “The Malicious Use of Artificial Intelligence” című tanulmány is, amit 14 intézmény 26 szakértője állított össze.
Biztos te is ismered már például azokat az emaileket, amik az érzelmeidre apellálva próbálnak kényes adatokat szerezni, vagy pénzt kérni. Ezeknek már most is sokan bedőlnek. Képzeld el, mi történik, ha majd az AI-t használó hangutánzó és arccserélő programok például egy rokon képében megjelenő AI videóüzenetben könyörögnek, hogy utalj neki pénzt?
De ennél egyszerűbb módon is lehet hatalmas károkat okozni: nem kizárt például, hogy a robotmunkát végző, egyszerű AI-t használó robotokat némi programozással akár emberéletek kioltására is lehet utasítani. Ilyen lehet például, ha az egyszerű robotporszívóba távolról vezérhető robbanószerkezetet helyeznek, vagy ha felülírják az önvezető autók, drónok programkódját.
Nem válunk nélkülözhetővé… még
Mindegyik, a mesterséges intelligenciával foglalkozó cikkben előbb-utóbb előkerül a kérdés, hogy vajon meddig van szükség ránk, emberekre? Bár a fenti példák azt mutathatják, hogy az AI tényleg fénysebességgel fejlődik, a valóságban még várni kell arra, hogy mindent a robotok irányítsanak helyettünk. A következő években-évtizedekben inkább egyfajta szimbiózisra kell számítani, ahol a munka „unalmas“, gépies részét az MI szoftverekre bízhatjuk, de a döntéseket az emberek hozzák meg. Európában különösen visszafogja a stratégiai figyelem hiánya a mesterséges intelligenciában rejlő óriási üzleti és felhasználási lehetőségek kiaknázását, legalábbis a Fujitsu közreműködésével kiadott vizsgálati jelentés szerint.
Hogyan lesz hatékony az együttélés?
Az együttműködésnek jelenleg 3 fő módja van:
- az ember felügyelő funkciót tölt be, és ott lép közbe, ahol a gép tudása megáll: például a call-centerek esetében, amikor a felhasználónál olyan, egyedi probléma jelentkezik, amire a gép nem tudja a megoldást.
- az automatizmusokat és a döntések többségét a gép végzi el, de bizonyos szituációkban mindig az ember dönt – akkor is, ha a döntést a robot is meg tudná hozni – ilyenek például a hadászati célokra használt drónok.
- az AI biztosítja az információt, de a döntést mindig az ember hozza meg – ilyen például Watson, a betegeket diagnosztizáló program, amiről mi is írtunk már.
Egyes kutatók szerint az ember-gép harmónia megteremtéséhez teljesen új alapokra kell helyezni az AI-t: gondoskodni kell arról, hogy jobban megértsék a világot, és emberibb kontextusban kommunikáljanak velünk, hogy mi is jobban megértsük őket.
Mindenki megnyugtatására leszögeznénk, hogy a kutatások leginkább ebbe az irányba haladnak – a gyilkos robotok egyelőre csak a sci-fiben léteznek…
