Technologie je jako oheň. Dobrý sluha, ale zlý pán

Brzy uplyne rok od tragické střelby na Filozofické fakultě Univerzity Karlovy. Hrozba teroristických i kybernetických útoků neustává. Mohly by moderní technologie vybavené umělou inteligencí podobným incidentům zabránit? Co naše soukromí? A dá se vůbec bránit proti útočníkům na internetu? V Salonu Echa o tom diskutovali Michal Šotek, ředitel divize inteligentních kamer Konica Minolta CZ/SK, předseda představenstva Bankovní identity Jan Blažek, šéf bezpečnosti Univerzity Karlovy Otomar Sláma a advokát ze spolku Iuridicum Remedium Jan Vobořil.

Cele video si můžete prohlédnout ZDE.

Prosincová střelba na Filozofické fakultě UK odstartovala diskuse o změnách v bezpečnostních opatřeních nejen na vysokých školách, ale třeba i v nemocnicích a dalších veřejných budovách. Můžeme pomocí technologií, jako jsou moderní bezpečnostní kamery, podobným útokům zabránit?

Šotek: Máme víc řešení, která můžeme aplikovat na prostory, které zmiňujete. Tím základním je vizuální detekce zbraně, pokud se objeví na kameře, která tu zónu sleduje. Může jít o střelnou nebo chladnou zbraň, jako jsou například nože. Takže kamera rozpozná předmět, který se vizuálně shoduje s tím, jak běžně vypadá zbraň, a na základě toho pak informujeme obsluhu, že jsme detekovali zbraň. Další řešení jsou bezpečnostní rámy, které jsou instalovány na vstupech do budov. Ty umějí rozpoznávat například výbušniny nebo zbraně, které tam závadové osoby chtějí vnést. Pak existují také speciální teraherzové kamery, které umějí rozpoznat zbraně i pod oblečením nebo v zavřeném batohu.

Kde se chytré kamery nejčastěji využívají v praxi? Šokoval mě aktuální údaj, že ochranka v motolské nemocnici musí zasahovat až pětkrát denně, často proti agresivním pacientům.

Šotek: Mohou to být nemocnice, vládní budovy, soudy nebo jiná veřejná prostranství, kde je v daný moment zvýšené riziko nebezpečí. Nicméně ty kamerové systémy nabízejí i možnost detekce násilí. Kamera ve spolupráci s naším softwarem dokáže identifikovat, že v zóně vznikla nějaká násilná potyčka. Umíme také identifikovat podezřelou osobu, která se pohybuje nezvykle dlouhou dobu v nějaké zóně, kde běžně nemá být.

S vědomím toho, co se odehrálo loni na filozofické fakultě, dávalo by smysl využít chytré kamery i v prostorách škol?

Sláma: Technických řešení je nepřeberné množství. Jako šéf bezpečnosti a následně vedoucí ústředního krizového štábu, který tu situaci po tragické události řešil, jsem dostal přes pět set nabídek na nákup všelijakých systémů od spousty firem. Od rámů přes kamery. My jsme se zatím k nákupu většiny těch systémů neuchýlili. Univerzita hned po střelbě přijala aktualizovaný bezpečnostní plán, který čítá 72 různých úkolů. A drtivá většina z toho míří na práci s lidmi. Pro nás je mnohem důležitější, aby lidé věděli, jak v dané situaci zareagovat. Děláme nácviky evakuací a lockdownů. Učíme zaměstnance, jak se zabarikádovat v místnost nebo poskytnout první pomoc. Sám jsem fanoušek technických řešení, ale zároveň jsem zatím jako profesionál bezpečnosti univerzitu od nákupu většiny těch systémů odrazoval, protože by nám ten problém nevyřešily. Čistě z toho pohledu, že univerzita je velká otevřená instituce a kontrola osob na vstupu je provozně téměř nemožná. Proto jsme se nerozhodli jít tímto směrem, přestože technologie umožňují dnes už neuvěřitelné věci.

Na druhou stranu, kdyby v budově filozofické fakulty byly bezpečnostní rámy, zjistili byste, že se student pokouší pronést dovnitř velké množství zbraní.

Sláma: Když se rozhodnete spáchat takový čin, tak si ho naplánujete. Většina podobných útočníků, osamělých vlků, je extrémně dobře připravena. A pokud se rozhodnou, zbraň tam nakonec stejně dostanou. Museli bychom mít zabezpečené všechny dveře, nesměla by se otevírat okna. Z fakulty bychom museli udělat objekt, jako je třeba letiště, a nejsem si jist, že naši studenti chtějí každé ráno dvě hodiny čekat na bezpečnostní kontrolu. Zároveň bychom museli mít ozbrojenou ochranku, která bude takovou situaci řešit a útočníka zpacifikuje. Těch navazujících opatření je velké množství. A zatím nevím o tom, že by se k tomu některé školy uchylovaly. Je to hudba budoucnosti. Ve Spojených státech rámy ve školách jsou a je tam i ozbrojená ochranka a taky se tam střílí každý týden. To se nám v Česku zatím naštěstí neděje. Drtivá většina diskusí se soustřeďuje na to, jak zabezpečit školy proti útočníkům, ale mnohem pravděpodobnější je, že budeme čelit třeba požáru. A většina těch navrhovaných opatření jde proti tomu, že se můžete efektivně evakuovat.

Opravdu by rámy nebo chytré kamery masakru nezabránily?

Šotek: Já určitě neřeknu, že ano, nebo ne. Žádná technologie není samospásná. A jak kolega Sláma zmínil, ty technologie by měly útočníka odradit. Každý bezpečnostní systém je překonatelný. Otázka je, jak dlouho bude útočníkovi trvat ho překonat, anebo jestli ho to odradí a vybere si jiný subjekt, který není tak dobře zabezpečený.

Kromě nemocnic, které jste zmínil, využívají vaše kamerové systémy třeba jiné veřejné instituce, nebo právě školy?

Šotek: Ano, řešíme projekty i pro školy, ale ty nebudu jmenovat. Řešíme i další věci, které navazují na to, co zmiňuje pan Sláma, třeba systémy na prevenci požárů. Dnes jsou hodně rozšířené elektromobily a elektrické koloběžky a jsme schopni pomocí termokamer na parkovištích sledovat, jestli u některého auta nedochází třeba k nebezpečnému zahřívání baterie.

Kamery nás sledují už téměř všude. Nehrozí, že budou data z bezpečnostních kamer zneužita?

Šotek: Každý ten systém je koncipován tak, aby podléhal platným regulím nastaveným pro ochranu osobních údajů. A záleží projekt od projektu, kde jsou ta data ukládána a kdo k nim má přístup. Systém by měl být vždy nastaven tak, že jeho administrátor a uživatelé mají různá oprávnění. Operátoři, kteří ten systém sledují, mohou mít přístup k záznamům, nebo třeba jenom k živému obrazu. Ty možnosti jsou nepřeberné a jde o odpovědnost toho subjektu, který ten kamerový systém pořizuje.

Vobořil: Velice mě zaujal přístup pana Slámy v reakci na tu nešťastnou událost na filozofické fakultě. Veřejná debata mi přišla poměrně racionální. Čekali jsme velký tlak na pořizování drahých chytrých kamer a dalších „udělátek“, která by měla tu situaci vyřešit. Veřejnost si často myslí, že nakoupíme nějaké technologie a ty to za nás vyřeší. Ale upřímně řečeno, žádná kamera takovému incidentu nezabrání. Může mít částečně preventivní funkci, může pomoci pátrat po pachateli, ale představa, že vám kvůli tomu neukradnou auto nebo že vás nepřepadnou na ulici, je lichá. Lidé často přemýšlejí jenom o té technologii a neuvažují o alternativách. Ta technologie něco stojí. Jednak poměrně velké peníze a zadruhé nás stojí naše svobody a soukromí. Jak už říkal pan Sláma, ve Spojených státech máte všude na školách detektory kovu a ochranky, a stejně se tam střílí každý týden.

Když se rozhodnu, že do budovy nainstaluji chytré kamery, co všechno musím splnit?

Vobořil: Použití kamer u nás reguluje řada právních předpisů. Asi ten nejznámější je nařízení o ochraně osobních údajů, takzvané GDPR, které reguluje zpracování osobních údajů ze záznamů. Pokud jde o kamery v on-line režimu, tak tady máme občanský zákoník, který zakazuje zasahovat do soukromí, a to i třeba na chodbách veřejné vysoké školy. Máme tu zákoník práce, který nám říká, že nemáme sledovat zaměstnance, pokud k tomu nemáme dostatečný důvod. Takže někdy ta řešení mohou být na hraně; to všechno musí správce kamer zvážit. Když budeme detekovat opuštěná zavazadla, tak ta samotná detekce nezasahuje nějak významně do práv lidí, ale stále je to spojeno s kamerou, kterou musí někdo sledovat.

Teď mluvíte třeba o kamerách na letišti?

Vobořil: Ano. Ale jak zde říkal pan Šotek, pak může být třeba kamera na detekci nějakého podivného chování, a to už je další kapitola. Kdo bude definovat, co je podivné chování? Můžeme opravdu dospět do fáze, kdy si budeme říkat, že mě detekovala kamera, protože jsem se choval nějak divně a někdo mě kvůli tomu legitimoval. Mám s tím problémy, tak příště se budu chovat tak, abych nebyl detekován a aby mě nikdo nekontroloval. A může to dospět tak daleko, že se tomu lidé začnou přizpůsobovat. A pak se dostaneme někam, kde já osobně být nechci.

Pane Šotku, vnímáte tyto obavy?

Šotek: Samozřejmě se s tím setkáváme dnes a denně. Vždy je to o tom, že musíme nastavit ta opatření tak, aby nenarušovala soukromí. V případě, že máme nějaký konflikt nebo je tam nějaký střet, tak to komunikuje zákazník nebo pověřenec pro GDPR s Úřadem pro ochranu osobních údajů. Necháme si poradit a společně se snažíme najít nějaký kompromis nebo řešení, které bude podléhat platným předpisům. Vždy rád přirovnávám ty technologie k ohni. Je to dobrý sluha, ale špatný pán. Vždy bychom k nim měli přistupovat tak, abychom je aplikovali opatrně a sloužily nám. Dnešní kamerové systémy umějí třeba rozpoznávat typ oblečení, který na sobě podezřelý nebo útočník má, jakou mělo barvu, jaké měl ten člověk parametry, jestli měl batoh, jestli měl vousy, brýle nebo čepici a podobně. A to jsou velmi účinné nástroje například pro policii a pro další orgány, když potřebují dohledat pachatele nebo zjistit, kde se vyskytoval před tím činem. Lidé to mohou vnímat negativně, ale pokud se vcítíte do role rodiče, kterému někdo unesl dítě, a pomocí toho nástroje dokáže policie pachatele efektivně vyhledat, tak se na to díváte úplně jinak.

Hovořili jsme o útocích, ale ty nemusejí být pouze fyzické. Každý měsíc slyšíme o nějakém hackerském útoku na úřady nebo nemocnice. Informace mohou sloužit také jako zbraň. Třeba Bankovní identita, která provozuje digitální občanské průkazy, pracuje s daty milionů lidí, kteří se přes ni přihlašují do různých služeb státu. Jsou jejich údaje v bezpečí?

Blažek: U nás ta ochrana začínala už s designem toho systému. V první řadě se to snažíte nastavit tak, aby těch údajů, které sbíráte, bylo minimum. Protože to, že nějaký útok nastane, je jen otázka času a musíte s tím počítat. Takže to od začátku nastavujete tak, aby těch dat bylo co nejméně. A když už by ta data měla jednou uniknout, tak aby pro útočníka byla de facto nepoužitelná, to znamená ideálně anonymizovaná. Takže my nesbíráme osobní údaje uživatelů, ale sbíráme takzvané pseudonymní identifikátory. Z nich útočník vůbec nic nezjistí. To je první bariéra. Pak se chráníme i před samotným útokem. Podobně jako někde existují bezpečnostní rámy, my chráníme počítačové systémy pomocí firewallů, které hlídají, kdo může dovnitř a kdo ven. Případně křičí, pokud se tam něco děje. A není to jenom aktivní ochrana, je tady monitoring bezpečnostních záplat a podobně, aby ty systémy byly neustále aktuální a řešily případné bezpečnostní díry. A třetí, neméně důležitý krok, jsou opatření, jak se chovat v případě, že k nějakému incidentu dojde. Je to podobné, co říkal pan Sláma. Pokud už se něco děje, tak ti lidé musejí být připraveni na hrozbu správně reagovat. Takže pokud je nějaký „data breach“, tak musejí okamžitě nastoupit procesy, které minimalizují škody a zamezí dalšímu zneužití dat.

Jak často se setkáváte s hackerskými útoky?

Blažek: Útočníci si pravidelně testují, jestli náhodou nenajdou nějaké slabé místo. Není to jen u Bankovní identity, ale může to být jakákoli jiná instituce nebo firma. Ověřují, jestli děláme všechno správně, a pokoušejí se odhalit skuliny, kam by se mohli dostat. Bankovní identita, jak už jsem říkal, žádné osobní údaje neuchovává, pouze přes nás jdou. A ochrana toho identifikačního prostředku už je potom záležitostí bank, protože jsou to banky, které vydávají koncovému uživateli přístupové údaje na základě toho, že klienta ztotožní na pobočce. To, co se dnes děje, většinou už nejsou útoky na naše telefony a podobně. Mnohem nebezpečnější jsou phishingové vlny a manipulace uživatelů. Někdy je uživatel natolik zmanipulovaný, že ani neví, že posílá peníze hackerovi. A ještě je dokonce schopný přesvědčovat pracovníka banky, že skutečně ví, co dělá, a druhý den se diví, že peníze jsou pryč. V našem prostředí není týdne, kdy by se nic nedělo. Ať už jsou to banky, nebo přímo my, či některý z našich klientů.

Sláma: Jak už říkal pan Blažek, není firem nebo institucí, které by útokům nečelily. Na univerzitě se setkáváme s obrovským množstvím různě závažných útoků. Někdy jsou to pouze phishingy, jindy jde o rozsáhlejší útoky. Univerzita disponuje velkým množstvím údajů a spravuje spoustu peněz a na to přesně phishingové kampaně cílí. Útoky na ekonomické oddělení rozhodně nejsou ojedinělé. My ty statistiky nezveřejňujeme, ale opravdu není týdne, aby se něco nedělo.

Jak se takovým útokům dá bránit?

Sláma: Školíme naše zaměstnance a studenty, děláme penetrační testy, děláme vlastní phishingové kampaně, ty vyhodnocujeme a hledáme děravá místa. Myslím, že mi pan Blažek rád dá za pravdu, že tady není moc jiných nástrojů.

Blažek: Nejúčinnější je prevence a vzdělávání. To platí i v případě Bankovní identity, protože pořád vzděláváme koncového uživatele, aby byl schopen rozpoznat, že je něco v nepořádku. Když dostane nějaký e-mail, měl by si minimálně zkontrolovat, kdo mu ten e-mail poslal, jestli to není podvrh. Když mu někdo volá, tak aby si ověřil, o koho jde. Bohužel tady jde technologie proti nám, protože útočníci jsou v používání technologií velmi zdatní. V souvislosti s nástupem AI se rozšířily falešné videohovory nebo pokusy podsouvání videoověření a hlasových zpráv. To už útočníci dneska běžně využívají. Je třeba si uvědomit, že ten byznys z pohledu hackerů je činnost jako každá jiná. Snaží se ukrást data a peníze, ale chtějí být výděleční a maximálně efektivní, takže se snaží útočit na slabé cíle. Pokud se nějaká země ukáže jako velké sousto, přesunou se tam, kde to pro ně bude nejvýhodnější.

Takže umělá inteligence usnadňuje hackerům práci?

Blažek: Kdybych vám v době covidu řekl, že bude možné pomocí AI udělat falešný videohovor, kdy si budete myslet, že hovoříte se svým šéfem, ale ve skutečnosti jde o video generované pomocí AI, které vám říká, že jste měl poslat peníze na tenhle účet, asi byste si to nedokázal představit. Ale dnes se to děje.

Sláma: Dnes už to nefunguje tak, že vám napíše lámanou češtinou katarský princ, že si u vás potřebuje na chvíli odložit dva miliony dolarů a abyste mu nadiktovali své osobní údaje. Ty útoky jsou mnohem sofistikovanější. Na ekonomické oddělení nám přišel e-mail, který měl vizuální identitu zpráv, které obíhají uvnitř univerzity, takže to na první pohled nevypadá nijak podezřele. Je psaný správnou češtinou, je tam logo univerzity, dokonce je pod ním podepsaný člověk, který by takový e-mail danému zaměstnanci měl poslat, ale šlo o podvrh.

Blažek: Rád bych zareagoval na ty pravopisné chyby v e-mailech: to je schválně. Říkal jsem, že se útočníci snaží chovat ekonomicky. Takže se snaží vyfiltrovat uživatele, který na tom není znalostně tak dobře. A to udělám tak, že pošlu takovýto e-mail. 99 procent lidí na něj nereaguje. A já pak vím, že ten, kdo je schopný reagovat na takový e-mail, na tom není zas tak dobře a už se mu můžu věnovat, protože je poměrně velká pravděpodobnost, že tento uživatel je slabým článkem. Takže ty pravopisné chyby jsou tam schválně, aby odfiltrovaly uživatele, kteří jsou odolní vůči útoku. Druhá poznámka se týká toho, před čím dnes v souvislosti s AI stojíme. Z pohledu hackerů je to opravdu ekonomická činnost. Podívejte se, co se dneska nabízí na darknetu. Stejně jako si dnes kupujete antiviry, tak si na darknetu můžete koupit nástroje, pomocí kterých můžete vykrádat bankovní účty uživatelů. Najdete tam e-shopy, kde si vyberete, na jakou banku chcete udělat útok. A oni vám na to prodají kompletně celou sadu.

Koupím software a útok pak udělám doma z počítače?

Blažek: Přesně tak. Takže kdybyste si řekl, že už nebudete dělat moderátora, ale dáte se na dráhu hackera, půjdete na darknet a nakoupíte si sadu nástrojů a ta vám umožní tyhle útoky dělat. Pak si musíte samozřejmě ještě pořídit nějaké call centrum, které bude ty uživatele obvolávat. Došlo to dokonce už tak daleko, že prodejci těchto nástrojů poskytují podporu. Kdybyste náhodou nevěděli, jak ten hackerský program obsluhovat, tak si k tomu přikoupíte podporu, kde vám poradí.

Sláma: Jak už říkal pan kolega Šotek. Když vás někdo bude chtít okrást a připravit vás o data nebo se vám nahackovat do počítače, tak je to jenom o tom, jak moc bude chtít, a nakonec to stejně zvládne. I když budete mít perfektně zabezpečené auto nebo dům. Pořád nám vykrádají muzea, která jsou zabezpečená. Je to jen o tom, jestli se to někomu vyplatí. Tím se dostáváme znovu k tomu slabému článku. A je to pak vždycky o těch jednotlivcích, kteří v té situaci musejí něco udělat. Proto se všichni snažíme o edukaci a o to, abychom nebyli těmi snadnými cíli. Musíme si uvědomit, že svět není bezpečný, ale můžeme významně ovlivnit, jak moc je bezpečný pro nás.