Ezer biztonsági problémánk van az AI-jal, de az emberiség kihalása nem tartozik közé

Bevezetés

Az AI-ipar legnagyobb szereplőit hallgatva néha nehéz eldönteni, hogy egy technológiai konferencián vagy egy katasztrófafilm előzetesén ülünk.

Az OpenAI, az Anthropic és más frontier AI-laborok vezetői rendszeresen beszélnek arról, hogy a mesterséges intelligencia fejlődése olyan kockázatokat teremthet, amelyek akár az emberi civilizáció egészét is veszélyeztethetik. Biztonsági keretrendszereket publikálnak, veszélyes képességküszöböket határoznak meg és időnként azt is közlik, hogy bizonyos fejlesztéseket lassítani kell, mert a modellek túl közel kerültek egy kritikus határhoz.

Tapasztalatom szerint ezeket az állításokat jellemzően kétféle módon fogadják az emberek:

Az egyik tábor szerint az AI-cégek lényegében a saját Frankenstein-szörnyüket építik, és legalább van bennük annyi felelősség, hogy időnként figyelmeztetik erre a világot.

A másik szerint az egész egy zseniális marketingkampány: nincs jobb módja annak, hogy elhitesse egy cég, hogy övé a világ legerősebb technológiája, mint azt mondani, hogy annyira erős, hogy talán elpusztítja az emberiséget.

Nézzük, mi ebből az igazság.

Az AI veszélyei nagyon is valósak

A mesterséges intelligenciával kapcsolatban nincs hiány valódi biztonsági problémákból.

AI-modellekkel már ma is olcsóbban és gyorsabban lehet meggyőző phishing-üzeneteket írni, manipulált képeket és videókat készíteni, dezinformációt tömegesen előállítani vagy rosszindulatú kódokat írni. Emellett a modellek egyre több döntési folyamatba kerülnek be: álláspályázatok előszűrésébe, biztosítási folyamatokba, pénzügyi döntésekbe, oktatásba, egészségügybe, katonai rendszerekbe.

Ezzel együtt megjelenik a hibadiagnosztika és az átláthatatlan, komplex rendszerek problémájának korábbiaknál szélsőségesebb változata: hogyan diagnosztizáljuk egy összetett rendszer hibáját, ha annak belső működését és döntési folyamatát csak részben látjuk át?

Ott van az adatvédelem kérdése. A szerzői jog. A deepfake-ek. Az automatizált csalás. A kiberbiztonság. A politikai manipuláció. Az algoritmikus diszkrimináció. A munkaerőpiaci átrendeződés. Az AI-rendszerek egyre több olyan feladatot kapnak, amelyekben már nem egyszerűen válaszolnak egy kérdésre, hanem cselekszenek. Fájlokat módosítanak, programokat írnak, más rendszereket kezelnek, tranzakciókat indítanak.

Minél autonómabbak ezek a rendszerek, annál komolyabb kérdés, hogyan ellenőrizzük őket. Ezek nem sci-fi problémák, ezek ma létező mérnöki, biztonsági és társadalmi problémák.

De ebből még nem következik a Terminátor

Itt történik meg az a fogalmi ugrás, amelyből a jelenlegi félreértések születnek. Abból, hogy egy AI fejlesztése komoly biztonsági problémákat vet fel, még egyáltalán nem következik, hogy az AI az emberi faj kihalásához vezet. A kettő között hatalmas távolság van.

Ahhoz, hogy egy mesterséges intelligencia valódi egzisztenciális fenyegetéssé váljon, rengeteg dolognak kellene egyszerre teljesülnie. A rendszernek nemcsak rendkívül intelligensnek kellene lennie, hanem tartós célokkal, stratégiai tervezési képességgel és jelentős autonómiával is rendelkeznie kellene. Képesnek kellene lennie arra, hogy hosszú időn keresztül megbízhatóan cselekedjen a való világban, ennek megvalósításához pedig a következők elengedhetetlenek:

• Hozzá kellene férnie fontos infrastruktúrákhoz.
• Fel kellene ismernie, hogy az emberek korlátozni akarják.
• Majd sikeresen ki kellene kerülnie ezeket a korlátozásokat.

Ez nem lehetetlen forgatókönyv, de jelenleg nem is bizonyított fejlődési pálya.

A probléma az, hogy az AI-biztonsági diskurzusban gyakran ugyanabban a mondatban szerepel egy ma demonstrálható kiberbiztonsági probléma és egy hipotetikus emberiségpusztulási forgatókönyv, pedig a bizonyítékok erőssége nagyon különböző.

Az apokalipszis mint marketing

Van azonban egy másik oka is annak, hogy az AI-cégek szeretnek egzisztenciális kockázatokról beszélni: ez elképesztően jó marketing. Gondoljunk bele, melyik állítás hangzik erősebben.

„Készítettünk egy szoftvert, amely bizonyos irodai feladatokat sokkal gyorsabban elvégez.”

Vagy:

„A termékünk nem egyszerűen jobb chatbot, hanem annyira elképesztően erős technológia, hogy nekünk kell vigyáznunk, nehogy túl veszélyessé váljon.”

Egy AI-cég számára rendkívül előnyös, ha a nyilvánosság azt gondolja, hogy nem egyszerűen egy jobb szoftvert fejleszt, hanem valami olyat, ami potenciálisan nagyobb jelentőségű, mint az internet, az atomenergia vagy az ipari forradalom.

A félelem és a technológiai felsőbbrendűség ebben az esetben furcsán erősítik egymást. A „termékünk veszélyes” üzenet valójában azt is jelenti, hogy „a termékünk elképesztően erős”.

A szabályozás mint üzleti eszköz

Az AI-veszélyekről szóló kommunikációnak van egy kevésbé látványos, de gazdaságilag nagyon fontos oldala is. Ha egy technológia veszélyes, szabályozni kell.

Ha pedig a szabályozás rendkívül drága biztonsági teszteket, nagy számítási infrastruktúrát, auditokat és speciális megfelelési rendszereket követel meg, akkor azoknak a cégeknek lesz előnyük, amelyek már most is milliárdokat költenek AI-fejlesztésre.

Vagyis ugyanaz a szabályozás, amely valóban növelheti a biztonságot, egyben belépési korlátot is teremthet. Egy startupnak hatalmas teher lehet egy olyan megfelelési rendszer, amely egy OpenAI vagy egy Anthropic számára kezelhető költség.

Ez természetesen nem jelenti azt, hogy minden AI-szabályozási javaslat valamiféle összeesküvés. Csupán azt, hogy az iparág vezető szereplőinek jól azonosítható gazdasági érdekeik is fűződhetnek ahhoz, hogy a mesterséges intelligencia veszélyeit hangsúlyosan kommunikálják: a magas kockázat percepciója olyan szabályozási környezet kialakulását segítheti elő, amelynek költségeit és technikai követelményeit a már domináns, tőkeerős vállalatok lényegesen könnyebben viselik, mint kisebb versenytársaik.

Ezt érdemes észben tartani akkor, amikor ugyanazok a cégek egyszerre mondják azt, hogy technológiájuk rendkívül veszélyes és azt, hogy ők rendelkeznek a megfelelő szakértelemmel annak biztonságos fejlesztéséhez.

Rossz problémára koncentrálni maga is kockázat

Az AI-apokalipszis narratívájával nem az a legnagyobb probléma, hogy biztosan téves. Lehetséges, hogy hosszú távon valóban létrejönnek olyan rendszerek, amelyeknek a kontrollja rendkívül nehéz lesz, ezért ezt komolyan kell kutatni.

A probléma inkább az, hogy a hipotetikus világvége rendkívül könnyen kiszorítja a figyelemből azokat a problémákat, amelyekkel most, a jelenben foglalkoznunk kellene.

Egy bűnözőnek, aki AI-jal több tízezer embernek küld személyre szabott átverést, nincs szüksége szuperintelligenciára, ahogy a kezdő hackereknek is megfelel a mai technológiai szint ahhoz, hogy jóval kisebb szaktudással, idő- és energiaráfordítással valósítsanak meg kibertámadásokat.

Egy politikai kampány számára, amely milliónyi manipulált tartalmat akar generálni, nincs szükség öntudatos gépre. Egy vállalat számára, amely egy hibás algoritmusra bízza emberek életét vagy pénzügyeit érintő döntéseit, szintén nincs szükség a jelenleginél fejlettebb technológiára.

Éppen ezért mind a biztonsági szakmának, mind az üzleti szereplőknek érdemes lenne nagyobb figyelmet fordítaniuk a szuperintelligencia által okozott hipotetikus civilizációs katasztrófák helyett azokra a nagyon is konkrét kockázatokra, amelyekkel már ma szembesülünk: mit tud elrontani egy AI-rendszer, kinek okozhat ezzel kárt és végső soron ki viseli érte a felelősséget?

Mennyire vehetők komolyan az AI-cégek saját biztonsági kutatásai?

Fontos, hogy az OpenAI és az Anthropic biztonsági kutatásait ne intézzük el egyszerűen azzal, hogy „ez csak marketing”. Mindkét vállalat komoly kutatócsapatokat tart fenn, részletes rendszerkártyákat, biztonsági értékeléseket és kockázati keretrendszereket publikál, bizonyos esetekben pedig külső szakértőket is bevon a modellek vizsgálatába. Az OpenAI saját Preparedness Frameworkje például külön kezeli a kiberbiztonsági, biológiai, manipulációs és kontrollvesztési kockázatokat, és a vállalat rendszeresen közöl pre-deployment értékeléseket a modelljeiről.

Az Anthropic hasonlóan komoly apparátust épített ki. Responsible Scaling Policy nevű keretrendszere meghatározza, milyen képességszinteknél milyen szigorú biztonsági intézkedéseket tart szükségesnek, miközben külön kutatási programot működtet alignment, modellviselkedés és veszélyes képességek vizsgálatára. A cég külső szervezetekkel is végzett biztonsági értékeléseket és maga is hangsúlyozza, hogy a harmadik fél által végzett auditok csökkenthetik a saját kutatók önmegerősítő torzításának kockázatát.

Ettől azonban ezek a publikációk még nem válnak automatikusan független tudományos bizonyítékká.

A probléma strukturális. Ugyanaz a szervezet fejleszti a modellt, választja ki a vizsgált kockázatokat, tervezi meg az értékelések jelentős részét, értelmezi az eredményeket, majd kommunikálja azokat a nyilvánosság felé.

Ráadásul a frontier modellek független reprodukálhatósága eleve korlátozott. Egy külső kutató jellemzően nem fér hozzá a teljes tréningfolyamathoz, a modell súlyaihoz, a belső naplókhoz vagy ugyanahhoz az infrastruktúrához, amelyen a vállalat saját vizsgálatait végzi. Emiatt az AI-biztonság területén sok eredmény inkább ellenőrzött vállalati értékelés, mint a klasszikus értelemben vett, bárki által reprodukálható laboratóriumi kísérlet.

Egy-egy vállalati jelentés vagy belső teszt önmagában még nem tekinthető végleges bizonyítéknak, különösen akkor, ha az adatokhoz, a modellekhez vagy a teljes kísérleti eljáráshoz külső kutatók csak korlátozottan férhetnek hozzá. Ahhoz, hogy az ilyen megfigyelésekből valóban erős és általánosítható tudományos következtetéseket lehessen levonni, szükség van független reprodukcióra, több kutatócsoport eredményeire és jóval szélesebb tudományos konszenzusra.

Röviden: ha egy AI-labor kutatása azt állítja, hogy a modellje veszélyes képességet mutatott, nem érdemes elfelejteni, hogy ugyanaz a szervezet mondja ezt, amelynek üzleti érdeke is fűződik ahhoz, hogy a világ rendkívül fejlettnek és veszélyesnek tekintse a technológiáját.