Kanada kibervédelmi hatósága arról adott ki tájékoztatót, hogy a hackerek és propagandisták egyre nagyobb erőkkel alkalmazzák az AI-technológiákat kártékony szoftverek létrehozására és terjesztésére, meggyőző adathalász e-mailek írására, tévinformációk, álhírek online terjesztésére. Állításuk szerint már most megvannak a bizonyítékok arra, hogy a Szilícium-völgy nagy technológiai forradalmát a kiberbűnözők is átvették.

Mindez persze csak olaj a tűzre a politikusok és hatóságok számára, ráadásul több olyan jelentést adtak ki az elmúlt hónapokban a kibervédelmi hatóságok és cégek, amelyek szerint az AI és a gyors, fejlett nyelvfeldolgozó programok, nagy nyelvi modellek igen nagy fenyegetést jelenthetnek, és igen meggyőző, hitelesnek tűnő dokumentumokat, beszédeket írnak.

Az Europol már márciusban arról beszélt, hogy a ChatGPT-hez hasonló eszközökkel bármelyik személyt vagy céget meg tudják már személyesíteni a bűnözők, igen nagy fokú hitelességgel. A brit kibervédelmi hatóság is azt állította, hogy a bűnözők az LLM-eket használják majd a kibertámadások hatékonyabbá tételére.

A kiberbiztonsági szakértők eddig maguk demózták a kártékony használati eseteket, de azt mondják, most már AI-generált tartalmakat látnak sok helyen. Olyan esetekről számolnak be, hogy a nagy nyelvi modellt speciális, kártékony tartalommal etetik, majd hiteles szövegeket készítenek azért, hogy valakit pénzbefizetésre vegyenek rá. Az LLM egy meggyőző, sürgős számlabefizetésről készített e-mailt.

A kanadai hatóság szerint egyébként még gyerekcipőben jár az AI-írta kártékony kódok piaca, de a gond az, hogy az AI-modellek olyan gyorsan fejlődnek, hogy nehéz megfékezni a káros  használatukat, és senki nem tudja, mi a következő lépcső.