Sandra S.

Bemutatkozás

Szakmai hátteremet az offenzív biztonságtechnikai operatív tapasztalat és a stratégiai szintű információbiztonsági irányítás kettőssége határozza meg.

Tapasztalataimat a technológiai frontvonalban, kritikus rendszerek sebezhetőségvizsgálatával alapoztam meg, majd ezeket az operatív ismereteket integráltam nagyvállalati biztonsági stratégiákba és komplex infrastruktúrák biztonaági protokolljaiba. Szakterületem az informatikai ökoszisztémák rezilienciája, amelyen belül kiemelt fókuszt kap a mesterséges intelligencia architektúráinak biztonsági validációja és az új típusú, algoritmus-alapú fenyegetési vektorok elemzése.

Akadémiai és szakmai pillérek

Korai szakmai orientáció az LLM-biztonság területén (2018): Már a generatív modellek térnyerése előtt behatóan foglalkoztam a társalgási ágensek kiberbiztonsági aspektusaival. Különösen érdekeltek az MI-alapú interakciók érzelmi dinamikájából fakadó kockázatok, valamint a korai nyelvi modellek integritása és az ember-gép interfészek sebezhetősége. Ezt a témát már 2018-ban szakdolgozati kutatási irányként terjesztettem elő az egyetemen. Az előkészítés során rendszeres exploratív interakciókat folytattam az akkori társalgási rendszerekkel, amelyek tapasztalatai tovább erősítették bennem e terület sürgető jelentőségét.

Kutatás a kiberbiztonság jövőjéről: Mesterképzésen folytatott tanulmányaim során – jóval az LLM-technológia tömeges elterjedése előtt – választottam kutatási területként a „Mesterséges intelligencia alapú kibertámadások” témakörét. Diplomamunkámban az MI-rendszerek szerepét vizsgáltam a kiberhadviselésben, különös tekintettel az automatizált támadási formákra és a prediktív modellek kockázataira.

Kutatásom során elemeztem többek között a kártékony kód neurális hálózatokba történő elrejtésének lehetőségeit, valamint az MI-alapú, kontextusfüggő és viselkedésalapú döntéshozatali mechanizmusokat, amelyek lehetővé teszik a precíziós, célzott malware aktiválást.

Nagyvállalati AI biztonság

2023 februárjától, a generatív mesterséges intelligencia globális térnyerésének kezdetén lehetőséget kaptam, hogy tagja legyek egy szigorú szabályozási környezetben működő nagyvállalat első dedikált AI-munkacsoportjának.

Ebben az erősen szabályozott szektorban kritikus szempont volt a megfelelő biztonsági keretrendszerek kialakítása, hiszen az innovatív AI-megoldásoknak egyszerre kell megfelelniük a legszigorúbb kiberbiztonsági, adatvédelmi és szabályozási követelményeknek.

Kiberbiztonsági szakértőként feleltem az AI-technológiák biztonságos és szabályozással összhangban történő integrációjáért a szervezet kritikus üzleti folyamataiba.

Feladataim átfogóan lefedték a mesterséges intelligencia teljes életciklusának biztonsági kérdéseit: a saját fejlesztésű megoldásoktól kezdve a harmadik féltől származó modellek átfogó kockázatelemzésén keresztül egészen a tanítóadatok integritásának biztosításáig és a modellek kiberbiztonsági validációjáig.

Tanácsadói tevékenységem során ma is azon dolgozom, hogy partnereim az innováció és a biztonság megfelelő egyensúlyának kialakításával vezethessék be a működési hatékonyságot növelő AI megoldásokat. Mindezt olyan optimalizált keretek között, amelyek kerülik a felesleges kiadásokat és a biztonsági szintet a valós kockázatokhoz igazítják.

A publikáció missziója

Ezt a felületet azért hoztam létre, mert látom, hogy az AI forradalma egyszerre hoz példátlan lehetőségeket és soha nem látott kockázatokat.

Célom egy átfogó, strukturált tudástér kialakítása, amely a mesterséges intelligencia biztonságának teljes spektrumát képes megragadni, rendszerezni és értelmezhetővé tenni.

Egy olyan konceptuális és információs térképet kívánok létrehozni, amely nem csupán összegzi a dinamikusan bővülő ismereteket, hanem koherens keretbe is rendezi azokat, elősegítve a terület mélyebb megértését és kritikai vizsgálatát.

Hiszem, hogy az AI-rendszerek működésének, korlátainak és kockázati profiljának széles körű és mélyreható megértése kollektív felelősségünk alapját képezi.

Minél több szereplő (kutatók, döntéshozók és a szélesebb társadalom) képes értelmezni a mesterséges intelligencia közvetlen és közvetett hatásait, annál nagyobb az esély arra, hogy a technikai fejlődés nem csupán hatékony, hanem etikai és biztonsági szempontból is tudatosan irányított legyen.