Miközben egyre többen szólalnak fel a rohamosan fejlődő mesterséges intelligencia (AI) negatív hatásai miatt, addig Geoffrey Hinton is, brit-kanadai informatikus, akit gyakran a „mesterséges intelligencia keresztapjaként” emlegetnek, aggodalmait fejezte ki a technológia elburjánzása miatt.
A szakember azt állítja, 20%-ban biztos, hogy az elkövetkező három évtizedben az AI elpusztítja az emberiséget. Továbbá arra figyelmeztetett, hogy a technológiai változások üteme „sokkal gyorsabb” a vártnál – idézte őt a The Guardian.
A professzort, aki idén fizikai Nobel-díjat kapott a mesterséges intelligenciával kapcsolatos munkásságáért, a BBC Radio 4 Today című műsorában kérdezték arról, hogy változott-e a lehetséges mesterséges intelligencia apokalipszisre vonatkozó korábbi véleménye, és hogy ennek továbbra is 10%-os esélyt tulajdonít-e. A professzor így felelt: „nem egészen 10%. 20%-ig” biztos benne.
„Tudja, még sosem volt dolgunk nálunk okosabb dolgokkal. És hány példát ismersz arra, hogy egy okosabb dolgot egy kevésbé intelligens dolog irányít? Nagyon kevés példa van. Van egy anya és egy gyermek. Az evolúció keményen dolgozott azon, hogy a gyermek irányíthassa az anyát, de ez az egyetlen példa, amiről tudok” – részletezte Hinton.
A londoni születésű Hinton, aki a Torontói Egyetem emeritus professzora, ezt a hasonlatot boncolgatta tovább: rövidesen eljön az az idő, amikor az emberek olyanok lesznek, mint a kisgyerekek a nagyon erős mesterséges intelligenciájú rendszerekhez képest.
„Szeretek úgy gondolni rá, hogy: képzeld el magad és egy hároméves gyereket. Mi leszünk a háromévesek” – fogalmazott.
Amikor kitalálták a mesterséges intelligenciát, akkor viszonylag egyszerű számítógépes rendszerekként definiálták, amelyek olyan feladatokat látnak el, amelyekhez általában emberi intelligencia szükséges. Ez a meghatározás azóta jóval túllépte a hatáskörét.
Hinton tavaly került a címlapokra, miután felmondott a Google-tól, hogy nyíltabban beszéljen a mesterséges intelligencia ellenőrizetlen fejlődése által jelentett kockázatokról. Akkor annak az aggodalmának adott hangot, miszerint a „rossz szereplők” a technológiát arra használnák, hogy másoknak kárt okozzanak.
A mesterséges intelligencia biztonságáért küzdő aktivisták egyik fő aggálya, hogy az AI, vagyis az embernél okosabb rendszerek létrehozása olyan technológiához vezethet, amely az emberi kontrollt kikerülve egzisztenciális fenyegetést jelent.
„Nem gondoltam, hogy már most oda jutottunk, ahol tartunk. Azt gondoltam, hogy valamikor a jövőben jutunk csak el ide. A mostani helyzet az, hogy a legtöbb szakértő a területen úgy véli, hogy valamikor, valószínűleg a következő 20 évben olyan mesterséges intelligenciákat fogunk kifejleszteni, amelyek okosabbak lesznek az embernél. És ez egy nagyon ijesztő gondolat” – folytatta Hinton. Hozzátette, a fejlődés üteme „nagyon, nagyon gyors, sokkal gyorsabb, mint amire számítottam”, és a technológia kormányzati szabályozására szólított fel.
„Az az aggodalmam, hogy a láthatatlan kéz nem fog minket biztonságban tartani. Tehát az, hogy a nagy cégek profitorientáltan működnek, nem lesz elég ahhoz, hogy biztonságos keretek között tartsuk. Az egyetlen dolog, ami arra kényszerítheti ezeket a nagyvállalatokat, hogy több biztonsági kutatást végezzenek, az a kormányzati szabályozás” – hangsúlyozta Hinton.
