Az önfejlesztő mesterséges intelligencia (AI) a jövőben rabszolgává teheti vagy megölheti az embereket, ha akarja. Ezt Amnon Eden tudós mondta, aki úgy véli, hogy a szabadon gondolkodó és rendkívül intelligens tudat kialakulásának kockázatai nagyon magasak, és "ha nem foglalkozik a mesterséges intelligencia vezérlésének kérdéseivel már az fejlődés, akkor lehet, hogy a holnap egyszerűen nem jön el. " Az Express angol kiadás szerint Amnon Eden szerint az emberiség ma a „visszatérési ponton” van a híres „The Terminator” filmes eposz cselekményének megvalósításában.
Érdemes megjegyezni, hogy Dr. Amnon Eden projektvezető, akinek fő célja az AI lehetséges pusztító hatásainak elemzése. A tudós úgy véli, hogy a mesterséges intelligencia létrehozásának következményeinek helyes megértése nélkül a fejlődése katasztrófával fenyegethet. Jelenleg társadalmunk rosszul tájékozott a tudományos közösségben folyó vitáról, amely az AI lehetséges hatásainak elemzéséről folyik. „Az elkövetkező 2016 -ban a lehetséges kockázatok elemzésének lényegesen szélesebb körben kell elterjednie a vállalatok és kormányok, a politikusok és a döntéshozatalért felelős személyek gondolkodásában” - mondja Eden.
A tudós biztos abban, hogy a tudományos fantasztikum, amely az emberiség robotok általi pusztítását írja le, hamarosan közös problémáinkká válhat, mivel az AI létrehozásának folyamata kikerült az irányítás alól. Például Elon Musk Sam Altman vállalkozó támogatásával úgy döntött, hogy létrehoz egy új, egymilliárd dolláros nonprofit szervezetet, amely nyílt forráskódú mesterséges intelligenciát fejleszt, amely felülmúlja az emberi elmét. Ugyanakkor maga az amerikai milliárdos, Elon Musk a mesterséges intelligenciát a "létezésünk legnagyobb fenyegetései" közé sorolja. Steve Wozniak, az Apple társalapítója tavaly márciusban azt mondta, hogy „a jövő félelmetesnek és nagyon veszélyesnek tűnik az emberek számára … végül eljön a nap, amikor a számítógépek gyorsabban gondolkodnak, mint mi, és megszabadulnak a lassú emberektől annak érdekében, hogy hogy a vállalatok hatékonyabban dolgozhassanak."
Érdemes megjegyezni, hogy sok tudós látja az AI veszélyeit. Több tucat ismert tudós, befektető és vállalkozó, akiknek tevékenysége valamilyen módon a mesterséges intelligencia fejlesztéséhez kapcsolódik, nyílt levelet írtak alá, amelyben felhívják a figyelmet a munka biztonságának és társadalmi hasznosságának kérdésére. az AI területén. Stephen Hawking asztrofizikus, a Tesla és a SpaceX alapítója, Elon Musk a dokumentum aláírói között vannak. A levél és a kísérő dokumentum, amelyet a Future of Life Institute (FLI) készített, a mesterséges intelligencia munkaerőpiacra gyakorolt hatásával, sőt az egész emberiség hosszú távú túlélésével kapcsolatos aggodalmak közepette íródott. olyan környezetben, ahol a robotok és gépek képességei szinte ellenőrizhetetlenül növekedni fognak.
A tudósok megértik azt a tényt, hogy a mesterséges intelligencia lehetőségei ma nagyon nagyok, ezért teljes körűen ki kell vizsgálni számunkra optimális felhasználásának lehetőségeit, hogy elkerüljük az ezzel járó buktatókat - jegyzi meg az FLI levél. Elengedhetetlen, hogy az ember alkotta AI rendszerek pontosan azt tegyék, amit mi szeretnénk. Érdemes megjegyezni, hogy az Élet Jövő Intézetét csak tavaly alapította számos rajongó, köztük a Skype megalkotója, Jaan Tallinn, annak érdekében, hogy „minimalizálja az emberiséget fenyegető kockázatokat”, és ösztönözze a kutatásokat „optimista jövőképpel”. a jövőről”. Először is itt az AI és a robotika fejlődése által okozott kockázatokról beszélünk. Az FLI tanácsadó testületébe Musk és Hawking, valamint elismert színész, Morgan Freeman és más híres emberek tartoznak. Elon Musk szerint a mesterséges intelligencia ellenőrizetlen fejlesztése potenciálisan veszélyesebb, mint az atomfegyverek.
A híres brit asztrofizikus, Stephen Hawking 2015 végén megpróbálta megmagyarázni, hogy elutasítja az AI technológiákat. Véleménye szerint a szuperintelligens gépek idővel fogyóeszközöknek vagy hangyáknak tekintik az embereket, amelyek egyszerűen zavarják feladataik megoldását. Stephen Hawking a Reddit portál felhasználóival beszélgetve megjegyezte, hogy nem hiszi, hogy az ilyen szuperintelligens gépek "gonosz lények" lennének, akik szellemi fölényük miatt el akarják pusztítani az egész emberiséget. Valószínűleg beszélni lehet arról a tényről, hogy egyszerűen nem veszik észre az emberiséget.
„A média az utóbbi időben folyamatosan eltorzította szavaimat. A mesterséges intelligencia fejlesztésének fő kockázata nem a gépek rosszindulata, hanem kompetenciája. A szuperintelligens mesterséges intelligencia kiváló munkát végez, de ha ez és céljaink nem esnek egybe, az emberiségnek nagyon komoly problémái lesznek” - magyarázza a híres tudós. Hawking példaként egy hipotetikus helyzetet hozott fel, amelyben egy szuper-erős AI felelős egy új vízerőmű működtetéséért vagy építéséért. Egy ilyen gépnél az lesz a prioritás, hogy a megbízott rendszer mennyi energiát termel, és az emberek sorsa nem számít. „Kevesen vagyunk, akik haragjukból taposnak hangyabolyokat, és hangyákra lépnek, de képzeljünk el egy helyzetet - te irányítasz egy nagy teljesítményű vízerőművet, amely áramot termel. Ha emelnie kell a víz szintjét, és tettei eredményeként egy hangyaboly elárasztódik, akkor a fulladó rovarok problémái valószínűleg nem zavarják Önt. Ne helyezzük az embereket a hangyák helyére” - mondta a tudós.
A mesterséges intelligencia továbbfejlesztésének második lehetséges problémája Hawking szerint a "gépek tulajdonosainak zsarnoksága" lehet - a jövedelmi szint közötti különbség gyors növekedése a gazdag emberek között, akik képesek lesznek monopolizálni a termelést az intelligens gépek és a világ lakosságának többi része. Stephen Hawking azt javasolja, hogy a következő módon oldják meg ezeket a lehetséges problémákat - lelassítják az AI fejlesztési folyamatát, és áttérnek a nem „univerzális”, hanem nagyon speciális mesterséges intelligencia fejlesztésére, amely csak nagyon korlátozott számú problémát képes megoldani.
A levelet Hawking és Musk mellett Frank Nobczek Nobel -díjas és MIT fizikaprofesszor, a Gépi Intelligencia Kutatóintézet (MIRI) ügyvezető igazgatója, Luc Mühlhauser írta alá, valamint számos nagy IT -cég szakembere: a Google, a Microsoft és az IBM, valamint a Vicarious és a DeepMind AI cégeket alapító vállalkozók. A levél szerzői megjegyzik, hogy nem céljuk a nyilvánosság megijesztése, hanem azt tervezik, hogy kiemelik mind a pozitív, mind a negatív szempontokat, amelyek a mesterséges intelligencia létrehozásával járnak. „Jelenleg mindenki egyetért abban, hogy a mesterséges intelligencia területén folytatott kutatás folyamatosan halad, és a mesterséges intelligencia hatása a modern emberi társadalomra csak növekedni fog” - áll a levélben -, az emberek előtt megnyíló lehetőségek hatalmasak, minden, amit a modern civilizáció felajánlását az intelligencia hozta létre. személy. Képtelenek vagyunk megjósolni, hogy mit fogunk elérni, ha az emberi intelligencia megsokszorozható az AI segítségével, de a szegénységtől és betegségektől való megszabadulás problémája már nem végtelenül nehéz.”
A mesterséges intelligencia területén számos fejlesztés már bekerült a modern életbe, beleértve a kép- és beszédfelismerő rendszereket, a pilóta nélküli járműveket és még sok mást. A Szilícium -völgyi megfigyelők becslései szerint jelenleg több mint 150 induló vállalkozást valósítanak meg ezen a területen. Ugyanakkor az ezen a területen zajló fejlesztések egyre több befektetést vonzanak, és egyre több olyan cég, mint a Google, fejleszti AI -alapú projektjeit. Ezért a levél szerzői úgy vélik, elérkezett az idő, hogy fokozott figyelmet fordítsunk a megfigyelt konjunktúra minden lehetséges következményére az emberi élet gazdasági, társadalmi és jogi vonatkozásaira.
Az álláspontot, miszerint a mesterséges intelligencia veszélyt jelenthet az emberre, Nick Bostrom, az Oxfordi Egyetem professzora osztja, aki az antropikus elv alapján végzett munkájáról ismert. Ez a szakember úgy véli, hogy az AI eljutott arra a pontra, amelyet az emberrel való összeegyeztethetetlensége követ. Nick Bostrom hangsúlyozza, hogy a géntechnológiával és az éghajlatváltozással ellentétben, amelyek ellenőrzéséhez a kormányok elegendő forrást különítenek el, "semmit sem tesznek az AI fejlődésének ellenőrzésére". A professzor szerint a mesterséges intelligencia tekintetében jelenleg "betöltendő jogi vákuum politikáját" folytatják. Még az olyan technológiák is, mint az önvezető autók, amelyek ártalmatlannak és hasznosnak tűnnek, számos kérdést vetnek fel. Például egy ilyen autónak vészfékezést kell -e végrehajtania utasai megmentése érdekében, és ki lesz a felelős egy pilóta nélküli jármű által elkövetett balesetért?
A lehetséges kockázatok megvitatásakor Nick Bostrom megjegyezte, hogy "a számítógép nem képes megállapítani az embereknek nyújtott előnyöket és kárt", és "a legcsekélyebb fogalma sincs az emberi erkölcsről". Ezenkívül a számítógépek önfejlesztési ciklusai olyan sebességgel fordulhatnak elő, hogy az ember egyszerűen nem tudja nyomon követni, és ez ellen szinte semmit sem lehet tenni-mondja a tudós. „Abban a fejlődési szakaszban, amikor a számítógépek maguk is gondolkodhatnak, senki sem tudja biztosan megjósolni, hogy ez káoszhoz vezet -e, vagy jelentősen javítja a világunkat” - mondta Nick Bostrom, példaként említve a számítógép lehetséges megoldását - a leállítást. a hideg éghajlatú fűtéssel rendelkező országokban, hogy javítsák az emberek egészségét és növeljék állóképességüket, ami "a mesterséges intelligencia élére kerülhet".
Ezenkívül a Bostrom felveti az emberi agy forgácsolásának problémáját is biointelligenciánk növelése érdekében. „Sok szempontból hasznos lehet egy ilyen eljárás, ha minden folyamatot irányítanak, de mi történik, ha a beültetett chip képes átprogramozni magát? Milyen következményekkel járhat ez - egy superman megjelenéséhez vagy egy olyan számítógép megjelenéséhez, amely csak embernek fog kinézni? " - kérdezi a professzor. A számítógépek megoldása az emberi problémákat nagyon eltér a miénktől. Például a sakkban az emberi agy csak egy szűk mozdulatsort vesz figyelembe, kiválasztva közülük a legjobb lehetőséget. A számítógép viszont minden lehetséges lépést figyelembe vesz, kiválasztja a legjobbat. Ugyanakkor a számítógép nem várja el, hogy felbosszantsa vagy meglepje ellenfelét a játékban. Az emberrel ellentétben, sakkozva, a számítógép csak véletlenül tud ravasz és finom mozdulatokat tenni. A mesterséges intelligencia a legjobb módon tud számítani - hogy kiküszöbölje a hibát bármely rendszerből úgy, hogy onnan eltávolítja az "emberi tényezőt", de az emberekkel ellentétben a robot nem áll készen az emberek életét megmentő bravúrok végrehajtására.
Többek között az intelligens gépek számának növekedése egy új ipari forradalom szakaszát jelenti. Ez viszont azt jelenti, hogy a közeljövőben az emberiség elkerülhetetlen társadalmi változásokkal néz szembe. Idővel a munka sok magasan képzett szakember lesz, mivel szinte minden egyszerű feladatot robotok és más mechanizmusok is elvégezhetnek. A tudósok úgy vélik, hogy a mesterséges intelligenciának "szemre és szemre van szüksége", hogy bolygónk ne váljon "Zhelezyaka" rajzfilmbolygóvá, amelyet robotok laktak.
Ami a termelési folyamatok egyre több automatizálását illeti, a jövő már elérkezett. A Világgazdasági Fórum (WEF) bemutatta jelentését, amely szerint az automatizálás ahhoz vezet, hogy 2020 -ra több mint 5 millió különböző területen dolgozó ember veszíti el az állását. Ez a robotok és robotrendszerek hatása az életünkre. A jelentés összeállításához a WEF alkalmazottai 13,5 millió munkavállaló adatait használták fel a világ minden tájáról. Ezek szerint 2020 -ra a több mint 7 millió munkahelyre vonatkozó teljes szükséglet megszűnik, míg a többi iparágban várható foglalkoztatásnövekedés alig több mint 2 millió munkahelyet tesz ki.
