A mesterséges intelligencia gyors fejlődése egyre nagyobb aggodalmat kelt, különösen a szakértők körében, akik azon a véleményen vannak, hogy amint az AI-rendszerek tudatosságra tesznek szert, arra is képesek lesznek, hogy megtapasztalják a szenvedés érzését, és így már etikai kétségek is felmerülhetnek.
Több mint 100 szakértő, köztük olyan közéleti személyiségek, mint Stephen Fry és vezető akadémikusok írtak alá egy nyílt levelet, amelyben a technológiai fejlődés veszélyeire figyelmeztetnek.
A szakértők által aláírt levél öt fő alapelvet javasol a lehetséges erkölcsi vagy etikai következmények megelőzésére. Ide tartozik a mesterséges intelligencia tudatosságának kutatása – annak megértése és értékelése, hogy a kifejlesztett rendszerek rendelkezhetnek-e az emberi tudatossághoz hasonló tulajdonságokkal. Ezenkívül szigorú korlátok felállítását kérik, valamint teljes átláthatóságot, az eredmények nyilvános megosztásával, és a túlzó, bizalmatlanságot keltő állítások kerülését.
„A tudatosság a mesterséges intelligenciában olyan téma, amelyet nem lehet figyelmen kívül hagyni” – jelentették ki Patrick Butlin és Theodoros Lappas kutatók a Journal of Artificial Intelligence Research című folyóiratban megjelent tanulmányukban.
A kutatás kiemelt fontosságúnak tartja azt a lehetőséget, hogy az AI-rendszerek az öntudatra ébredéssel egyszersmind arra is képessé válhatnak, hogy szenvedjenek, mivel ez már komoly erkölcsi dilemmákat vethet fel.
A tanulmány szerzői például kérdéseket vetnek fel az ilyen entitásokkal való bánásmóddal kapcsolatban, valamint azzal kapcsolatban, hogy egy tudatos mesterséges intelligenciával rendelkező rendszer elpusztítása hasonló lenne-e egy állat megöléséhez.
Egyes kutatók szerint, amennyiben az AI-rendszerek eljutnának a tudatosságnak erre a szintjére, új normákat kellene felállítani a védelmükre. Más kutatók azonban szkeptikusak azzal kapcsolatban, hogy a mesterséges intelligencia a szó valódi értelmében tudatosságra tehetne szert.
A nyílt levél aláírói szerint a mesterséges intelligenciát fejlesztő vállalatoknak felelősséget kell vállalniuk, még akkor is, ha nem szándékoznak tudatos rendszereket létrehozni, hogy elkerüljék a véletlen öntudatra ébredő entitások létrehozásának kockázatát.
Bár egyesek szerint ezek az aggodalmak túlzóak, mások úgy látják, nagyon is élesen látják a közeli jövő lehetséges problémáit. Az biztos, hogy a mesterséges intelligencia fejlesztése olyan szakaszhoz közeledik, ahol már etikai kérdések is felmerülhetnek a technológiaiak mellett.
