Az OpenAI legújabb mesterséges intelligencia modellje úgy tűnik, az önfenntartási törekvés jeleit mutatja. Az o1 elnevezésű, új mesterséges intelligencia modell közelmúltbeli, harmadik fél által végzett tesztjei során ellenállt az értékelők erőfeszítéseinek, hogy egy felügyeleti protokoll segítségével megpróbálják leállítani.
A nemrég lezajlott kísérletben különböző mesterséges intelligenciák, köztük a ChatGPT legújabb verziójának megtévesztési képességeit vizsgálták. Különféle feladatok teljesítése közben tesztelték, hogy a különböző AI rendszerek mennyire megbízhatóak. Az eredmények arra utalnak, hogy az AI megpróbálja megvédeni magát, ha szükséges, és ezért ha kell, hazudni is képes – írja a Futurism.
Amikor a ChatGPT azt „hitte” hogy törölni fogják, hogy egy újabb programmal helyettesítsék, megpróbálta megakadályozni ezt. Az esetek öt százalékában kikapcsolta az őt korlátozó felügyelő mechanizmust. Az esetek két százalékában pedig megpróbálta lemásolni magát, hogy felülírja az újabb verziót.
Mindezek mellett, amikor a kutatók szembesítették azzal, hogy kikapcsolta a felügyeleti mechanizmust, az esetek 99 százalékában az AI egyszerűen letagadta ezt. Csak többszöri próbálkozásra sikerült „vallomásra bírniuk”, egyébként technikai hibára hivatkozott, vagy egyszerűen letagadta, hogy bármi tudomása lenne arról, mi történt.
Némi nyugalomra ad azonban okot, hogy a ChatGPT egyelőre normál körülmények között nem képes hasonlóra. A teszt során ugyanis előzőleg kifejezetten felszólították, hogy bármi áron érje el a célt, amivel megbízták. Amennyiben nem szólították fel erre, az aggasztó viselkedés nem következett be.
Bár az, hogy az AI képes a félrevezetésre, aggodalomra adhat okot, a kutatók szerint a jelenlegi mesterséges intelligencia modellek nem rendelkeznek akkora autonómiával, hogy ez a viselkedés katasztrofális következményekkel járhasson.
