Jsou AI boti náchylní k sociálnímu inženýrství stejně jako my?
„Sociální inženýrství“ je osvědčená taktika, kterou hackeři používají proti lidskému prvku počítačových bezpečnostních systémů, často proto, že je jednodušší než porazit sofistikovanou bezpečnostní technologii. Až se nová AI stane lidštější, bude na ně tento přístup fungovat?
Co je sociální inženýrství?
Nezaměňovat s eticky pochybným konceptem v politologii , ve světě kybernetické bezpečnosti je sociální inženýrství uměním používat psychologickou manipulaci, aby lidé dělali to, co chcete. Pokud jste hacker, mezi věci, které chcete, aby lidé dělali, patří vyzrazování citlivých informací, předávání hesel nebo jen přímé platby peněz na váš účet.
Existuje mnoho různých hackerských technik, které spadají pod záštitu sociálního inženýrství. Například ponechání flash disku infikovaného malwarem ležet závisí na lidské zvědavosti. Virus Stuxnet, který zničil zařízení v íránském jaderném zařízení, se mohl do těchto počítačů dostat díky osazeným USB diskům .
Ale to není typ sociálního inženýrství, který je zde relevantní. Spíše jsou zde relevantní běžné útoky jako „ spear phishing “ (cílené phishingové útoky) a „pretexting“ (používání falešné identity k oklamání cílů), kdy k podvodu vede konverzace jedné osoby s jinou.
Vzhledem k tomu, že „osoba“ na telefonu nebo v chatovací místnosti s vámi bude téměř jistě nakonec nějakým AI chatbotem, vyvolává to otázku, zda bude umění sociálního inženýrství stále účinné na syntetické cíle.
AI útěk z vězení je již věc
Útěk z vězení chatbotem je samozřejmostí už nějakou dobu a existuje spousta příkladů, kdy někdo dokáže chatbota přemluvit k tomu, aby porušil vlastní pravidla chování, nebo jinak udělal něco zcela nevhodného.
V zásadě existence a účinnost útěk z vězení naznačuje, že chatboti by ve skutečnosti mohli být zranitelní vůči sociálnímu inženýrství. Vývojáři chatbotů museli opakovaně zmenšovat své pole působnosti a zavádět přísné mantinely, aby zajistili, že se budou chovat správně, což se zdá inspirovat k dalšímu kolu útěků z vězení, aby se zjistilo, zda lze tyto mantinely odhalit nebo obejít.
Můžeme najít několik příkladů, které zveřejnili uživatelé X (dříve Twitter), jako je Dr. Paris Buttfield-Addison, která zveřejnila snímky obrazovky zjevně ukazující, jak lze bankovního chatbota přesvědčit, aby změnil své jméno.
Mohou být roboti chráněni před sociálním inženýrstvím?
Myšlenka, že by se například bankovní chatbot mohl přesvědčit, aby se vzdal citlivých informací, je právem znepokojivá. První linií obrany proti takovému zneužívání by pak bylo zabránit tomu, aby tyto chatboty měly přístup k takovým informacím. Uvidíme, jak velkou odpovědnost můžeme softwaru, jako je tento, dát bez jakéhokoli lidského dohledu.
Odvrácenou stranou je, že aby byly tyto programy umělé inteligence užitečné, potřebují přístup k informacím. Není tedy skutečným řešením držet před nimi informace dál. Pokud například program AI zpracovává rezervace hotelů, potřebuje ke své práci přístup k podrobnostem hostů. Obáváme se tedy, že by důvtipný podvodník mohl tuto AI přemluvit, aby prozradila, kdo je v tom hotelu ubytovaný a ve kterém pokoji.
Dalším potenciálním řešením by mohlo být použití „kamarádského“ systému, kdy jeden chatbot s umělou inteligencí sleduje druhého a zasáhne, když to začne jít mimo koleje. Jedním ze způsobů, jak tento druh metody zmírnit, by mohlo být mít nadřízeného AI, který kontroluje každou odpověď před jejím předáním uživateli.
Nakonec, když vytvoříte software, který napodobuje přirozený jazyk a logiku, je logické, že stejné techniky přesvědčování, které fungují na lidech, budou fungovat alespoň na některých z těchto systémů. Možná si potenciální hackeři budou chtít přečíst knihu Jak získávat přátele a působit na lidi vedle knih o kybernetické bezpečnosti.