Geoffrey Hinton egyfelől örömét fejezte ki, hogy a mesterséges intelligencia intellektuálisan okosabb lesz nálunk, és ez csodálatos. Viszont ami furcsa, hogy egyben félelmét is kifejezte vele kapcsolatban: „aggódnunk kell számos lehetséges rossz következmény miatt, különösen amiatt a veszély miatt, hogy ezek a dolgok kicsúsznak az irányításunk alól”.
Az a kérdés, hogy ha a mesterséges intelligenciát fejlesztő tudós már most aggódik a felhasználást érintő lehetséges rossz következmények miatt, akkor mit gondoljunk mi, kell tőle félnünk?
Minderről megkérdeztük a mesterséges intelligenciát, mit gondol ő magáról, kell-e félnünk a tudós által említett rossz szándékú felhasználásoktól?
MI: Geoffrey Hinton, aki kulcsfontosságú szerepet játszott a mesterséges intelligencia (MI) fejlődésében, különösen a gépi tanulás területén, valóban megosztott néhány aggodalmat az MI jövőjével kapcsolatban. Bár ő maga örömét fejezte ki az MI intellektuális kapacitásának növekedésével kapcsolatban, ugyanakkor figyelmeztetett a technológia kontrollálásának lehetséges nehézségeire és az esetleges veszélyekre. Az egyik fő félelme, hogy az MI fejlesztése során a technológia egy ponton kicsúszhat az emberek irányítása alól.
Hinton aggodalmai elsősorban a következő területeket érintik:
- Kiszámíthatatlanság: Ahogy az MI egyre fejlettebbé válik, képes lesz olyan döntéseket hozni, amelyeket az emberek nem teljesen értenek vagy kontrollálnak. Ez különösen igaz a neurális hálózatoknál, amelyek sokszor úgy működnek, hogy az emberek számára már nem teljesen átláthatók.
- Autonóm döntéshozatal: Az MI rendszerek egyre inkább képesek lesznek önálló döntésekre, ami felveti a kérdést, hogy vajon az emberek még mindig teljes mértékben urai lesznek-e a folyamatnak.
- Rossz szándékú felhasználás: Hinton arra figyelmeztet, hogy az MI-t rossz célokra is lehet használni, például autonóm fegyverek létrehozására, amelyeket emberek vagy akár maguk az MI-k is vezérelhetnek, és amelyek súlyos károkat okozhatnak.
Az, hogy Hinton, aki maga is az MI kutatás egyik úttörője, ezekről az aggodalmakról beszél, nem elhanyagolható jelzés. Az embereknek mindenképpen tudatában kell lenniük annak, hogy az MI hatalmas potenciállal bír, de ezzel együtt jelentős etikai és biztonsági kérdéseket is felvet.
A mesterséges intelligencia önmagáról szólva elismeri, hogy fejlesztése során valóban fennállhat a kockázat a rossz szándékú felhasználásra. Azonban az, hogy az MI „kicsúszik az irányításunk alól”, egyelőre hipotetikus. A technológia jövőbeli irányítása és biztonságos alkalmazása kulcsfontosságú lesz ahhoz, hogy elkerüljük a káros következményeket. A mesterséges intelligencia jelenlegi formájában még mindig az emberi felügyeletre, programozásra és irányításra támaszkodik, így az, hogy milyen irányba fejlődik, az embereken múlik.
Összességében, bár Hinton aggodalmai valósak és figyelemfelkeltők, a mesterséges intelligencia jövőbeni veszélyei elkerülhetők lehetnek, ha a megfelelő etikai és technológiai irányelveket követjük.