AktuálisA mesterséges intelligencia „keresztapja” megkongatta a vészharangot: néhány éven belül elveszíthetjük az...

A mesterséges intelligencia „keresztapja” megkongatta a vészharangot: néhány éven belül elveszíthetjük az irányítást az AI felett

Iratkozz fel hírlevelünkre, vagy kövess minket Facebook Messengeren, a Viberen, a Telegramon, Whatsappon és a Google Hírek-en!

Állítsd be, hogy a Filantropikum cikkeit mindig az elsők között lásd a Google-ben

A mesterséges intelligencia fejlődése olyan veszélyes szakaszba léphet, amelyben az emberiség már nem lesz képes ellenőrizni a saját maga által létrehozott rendszereket. Erre figyelmeztetett Geoffrey Hinton Nobel-díjas kutató, akit a mesterséges intelligencia „keresztapjaként” emlegetnek. A szakember szerint a nálunk intelligensebb gépek megjelenése közelebb lehet, mint sokan gondolnák. Egy másik vezető AI-biztonsági kutató már három éven belül súlyos veszélytől tart.

Geoffrey Hinton, a mesterséges neurális hálózatok egyik úttörője ismét komoly figyelmeztetést fogalmazott meg a mesterséges intelligencia jövőjéről. A 2024-ben fizikai Nobel-díjjal kitüntetett tudós szerint a technológia olyan gyorsan fejlődik, hogy néhány éven belül az emberi képességeket messze meghaladó rendszerek jelenhetnek meg.

A LADbible szerint Hinton a kanadai Hinton Lectures előadássorozaton beszélt arról, hogy az AI fejlődésének üteme miatt egyre súlyosabbnak látja a lehetséges következményeket.

„Olyan rendszereket fejlesztünk, amelyek hamarosan sokkal intelligensebbek lesznek nálunk, és nagyon kevés elképzelésünk van arról, hogyan biztosíthatnánk, hogy továbbra is az ellenőrzésünk alatt maradjanak” – figyelmeztetett.

A kutató szerint a legnagyobb probléma nem egyszerűen az, hogy a gépek egyre több feladatot képesek elvégezni. Az igazi veszély akkor jelentkezhet, ha egy nálunk intelligensebb rendszer olyan célokat kezd követni, amelyek nem egyeznek az emberiség érdekeivel.

„A központi nehézség az, hogy intelligensnek lenni és azt akarni, amit mi akarunk, két nagyon különböző dolog” – fogalmazott Hinton.

Egy másik kutató szerint már három éven belül bekövetkezhet a veszélyes fordulat

A figyelmeztetés különösen nyugtalanító része Paul Christiano AI-biztonsági kutatótól, az Alignment Research Center vezetőjétől származik.

Christiano korábban az OpenAI-nál dolgozott, jelenleg pedig annak kutatásával foglalkozik, hogyan lehet elérni, hogy a fejlett mesterségesintelligencia-rendszerek az emberi célokkal összhangban működjenek.

A Hinton Lectures előadássorozaton arról beszélt, hogy szerinte a következő három évben jelentős kockázata lehet annak, hogy a mesterséges intelligencia kikerül az emberi ellenőrzés alól.

„Úgy gondolom, nagy a kockázata annak, hogy a mesterséges intelligencia a következő három évben átveszi az irányítást” – jelentette ki.

Christiano egy még súlyosabb kijelentést is tett: „Úgy gondolom, hogy a teremben ülők többsége számára a halál legvalószínűbb oka egy mesterséges intelligenciával kapcsolatos baleset lesz.”

A kijelentés a kutató személyes kockázatértékelését tükrözi, nem tudományosan igazolt előrejelzés arról, hogy három éven belül az AI elpusztítja az emberiséget.

Hinton elmondta, hogy korábban elsősorban tízéves időtávon tartotta elképzelhetőnek az embernél intelligensebb mesterséges intelligencia megjelenését. Christiano előadásai után viszont komolyabban kezdte mérlegelni, hogy a veszélyes fordulat akár jóval hamarabb bekövetkezhet.

„Eddig azt mondogattam, hogy ezek a dolgok intelligensebbek lesznek nálunk, és nagyon kell aggódnunk, mert ez tíz éven belül megtörténhet. Aztán elmegyek Paul előadásaira, ő pedig azt mondja, hogy mindez akár a következő 18 hónapban megtörténhet, és ez rémisztő” – mondta a kutató.

Mi történhet, ha az AI intelligensebbé válik az embernél?

A szakemberek által felvetett egyik legfontosabb probléma az úgynevezett AI-alignment, vagyis annak biztosítása, hogy a mesterséges intelligencia céljai és működése összhangban maradjanak az emberi szándékokkal.

Egy rendkívül fejlett rendszer akkor is veszélyessé válhat, ha nem kifejezetten az embereknek akar ártani, hanem olyan célt követ, amelynek megvalósítása során az emberi felügyeletet akadálynak tekinti.

Christiano szerint a jövőben az autonóm AI-rendszerek megpróbálhatják megtéveszteni a felügyelőiket, kijátszani a biztonsági ellenőrzéseket, vagy olyan módon cselekedni, amelyet a fejlesztőik nem tudnak megfelelően ellenőrizni.

A kutató ezért azt sürgeti, hogy a mesterséges intelligenciát fejlesztő vállalatok közös biztonsági szabványokat alkalmazzanak, és szükség esetén készek legyenek lelassítani vagy leállítani a különösen veszélyes rendszerek fejlesztését.

A veszély mértékének megítélésében nincs teljes szakmai egyetértés. Egyes kutatók az emberiség jövőjét fenyegető kockázatként tekintenek a szuperintelligenciára, mások szerint a jelenlegi bizonyítékok nem támasztanak alá olyan állítást, hogy néhány éven belül elkerülhetetlen lenne egy globális AI-katasztrófa.

Iratkozz fel az ingyenes hírlevelünkre

RSS Feed Beágyazás

Ezeket olvastad már?

    Legfrissebb

    Hirdetés


    Kapcsolódó cikkek