Umělá inteligence se stále častěji stává součástí bezpečnostní praxe. Nejde přitom pouze o chatboty nebo generování textů. AI dnes vstupuje do kamerových systémů, prediktivních analytických nástrojů, chytrého veřejného osvětlení, digitálních dvojčat měst, řízení dopravy nebo bezpečnostních platforem v rámci konceptu Smart Cities. Právě proto se téma umělé inteligence začíná stále výrazněji dotýkat také oblasti CPTED, tedy prevence kriminality prostřednictvím environmentálního designu.
White paper Mezinárodní asociace CPTED s názvem Artificial Intelligence and CPTED: Navigating the Ethical Threshold otevírá důležitou debatu: jak zapojit AI do prevence kriminality tak, aby nepřinesla pouze větší dohled, ale skutečně bezpečnější, živější a důvěryhodnější veřejný prostor. Dokument není odmítnutím technologií. Naopak připouští, že AI může být pro CPTED velmi silným nástrojem. Zároveň ale upozorňuje, že bez jasných etických pravidel, lidského dohledu a zapojení komunit se mohou technologie původně určené ke zvýšení bezpečnosti velmi snadno změnit v nástroje kontroly, vyloučení nebo nedůvěry.
CPTED tradičně pracuje s principy, jako jsou přirozený dohled, kontrola přístupu, teritorialita, aktivní využívání prostoru, údržba nebo posilování komunitních vazeb. Umělá inteligence může tyto principy rozšířit. Dokáže například analyzovat pohyb osob v prostoru, upozorňovat na nefunkční osvětlení, pomoci při plánování bezpečnějších tras nebo simulovat dopady urbanistických úprav ještě před jejich realizací. V tomto smyslu může AI pomoci architektům, samosprávám i bezpečnostním expertům pracovat rychleji, přesněji a s větším množstvím dat.
Problém nastává ve chvíli, kdy technologie začne nahrazovat lidský úsudek. White paper uvádí několik rizikových scénářů. Chytré osvětlení může zvýšit přehlednost prostoru, ale pokud je využíváno necitlivě, může z veřejného místa vytvořit sterilní, nepříjemné a přeregulované prostředí, které vytlačuje spontánní komunitní život. Prediktivní policejní nástroje mohou pomoci s alokací hlídek, ale zároveň mohou posilovat nadměrnou kontrolu v již stigmatizovaných lokalitách. Kamerové systémy s biometrickou analýzou mohou slibovat rychlejší identifikaci hrozeb, ale při chybných datech nebo špatném nastavení mohou nespravedlivě označovat určité skupiny obyvatel za rizikové.
Zvlášť citlivým tématem je prediktivní prevence. Pokud by se AI využívala například k odhadování budoucí delikvence u dětí nebo mladistvých, nejde už pouze o technický nástroj. Jde o zásah do lidského života, reputace a budoucích příležitostí. Falešně pozitivní výsledek zde může znamenat stigmatizaci člověka dříve, než vůbec něco udělal. To je přesně oblast, kde se bezpečnostní technologie nesmí řídit pouze otázkou „co všechno dokážeme“, ale hlavně otázkou „co je ještě legitimní, přiměřené a společensky přijatelné“.
Právě zde je white paper zajímavý i v evropském kontextu. V Evropské unii se v současnosti využívání AI intenzivně rámuje prostřednictvím AI Actu, který rozlišuje systémy podle míry rizika a klade důraz na bezpečnost, transparentnost, lidský dohled a ochranu základních práv. V oblasti bezpečnosti, biometrie nebo vymáhání práva nejde o abstraktní debatu. Jedná se o technologie, které mohou přímo ovlivnit, kdo bude sledován, kdo bude vyhodnocen jako rizikový a kdo ponese důsledky automatizovaného rozhodnutí.
White paper ICA proto dobře zapadá do širší evropské diskuse. Ukazuje, že odpovědí nemusí být ani nekritické nadšení z nových technologií, ani jejich úplné odmítání. Klíčová je schopnost nastavit podmínky, za kterých lze AI využívat eticky a zároveň efektivně. Jinými slovy: nejde o to brzdit inovace, ale zajistit, aby inovace sloužily lidem, nikoli aby se lidé přizpůsobovali algoritmu.
Dokument v tomto směru navrhuje několik zásad. První je nenahraditelný lidský dohled. AI může doporučovat, analyzovat nebo upozorňovat, ale neměla by sama rozhodovat o zásazích do veřejného prostoru nebo do práv osob. Druhou zásadou je transparentnost. Pokud je ve veřejném prostoru používán systém, který vyhodnocuje chování lidí, veřejnost má mít právo vědět, že takový systém existuje, jak funguje, kdo jej provozuje a jaká data využívá. Třetí zásadou je místní kontext. Bezpečnost není univerzální matematická hodnota. Jinak ji vnímají děti, senioři, ženy, lidé bez domova, podnikatelé nebo obyvatelé sociálně vyloučených lokalit. AI systém, který nerozumí místním vztahům, může snadno špatně interpretovat legitimní chování jako podezřelé.
Další důležitou zásadou je aktivní práce s diskriminací. Algoritmy nejsou neutrální jen proto, že jsou technické. Učí se z dat, která vznikla v konkrétní společnosti, s jejími nerovnostmi, předsudky a historickými vzorci kontroly. Pokud jsou data zatížená minulou praxí, může AI tyto vzorce pouze zrychlit a posílit. Proto nestačí systém jednou pořídit a nasadit. Je nutné jej průběžně auditovat, vyhodnocovat chybovost, sledovat dopady na různé skupiny obyvatel a umožnit nápravu tam, kde systém selhává.
Z pohledu CPTED je zásadní také komunitní souhlas. Veřejný prostor není jen technická infrastruktura. Je to prostor každodenního života. Pokud mají být do takového prostoru zaváděny systémy, které sledují, analyzují nebo předvídají chování, nemělo by se tak dít bez znalosti a účasti těch, kteří v daném místě žijí. CPTED dlouhodobě zdůrazňuje, že bezpečí nevzniká pouze přítomností kamer, světel nebo plotů, ale také důvěrou, sociální soudržností a pocitem spoluzodpovědnosti za místo.
Nejsilnější myšlenkou dokumentu je proto upozornění, že bezpečnost nesmí vytlačit obyvatelnost. Místo může být dokonale monitorované, a přesto se v něm lidé nemusí cítit dobře. Může být technicky zabezpečené, ale sociálně prázdné. Skutečně bezpečné prostředí není jen takové, kde klesá počet incidentů, ale takové, kde lidé chtějí být, potkávat se, pečovat o prostor a vnímat jej jako svůj.
Umělá inteligence může v oblasti CPTED sehrát velmi pozitivní roli. Může pomoci s lepší analýzou rizik, s údržbou veřejné infrastruktury, s modelováním dopadů plánovaných opatření nebo se zpracováním zpětné vazby od obyvatel. Aby se tak ale stalo, musí být součástí širšího rámce odpovědnosti. Nestačí technologii nasadit. Je třeba vědět, proč ji používáme, kdo nad ní má kontrolu, jaká rizika přináší a jak se vyhodnocuje její skutečný dopad.
V době, kdy Evropská unie nastavuje pravidla pro umělou inteligenci a kdy se veřejný sektor i bezpečnostní praxe učí s těmito nástroji pracovat, představuje white paper ICA důležitý argument pro vyvážený přístup. AI v bezpečnosti nemusí být hrozbou, pokud je používána transparentně, přiměřeně, s lidským dohledem a s respektem ke komunitám. A zároveň nemusí být ani pouhou módní technologickou nálepkou, pokud její využití skutečně vychází z potřeb konkrétního místa.
Budoucnost CPTED proto pravděpodobně nebude stát na volbě mezi člověkem a technologií. Bude stát na schopnosti propojit obojí. Technologie mohou pomoci vidět rizika, která by jinak zůstala skrytá. Lidé ale musí zůstat těmi, kdo určují smysl, hranice a hodnoty bezpečnosti. Právě v tom spočívá etický práh, o kterém dokument hovoří: nenechat AI rozhodovat o tom, co je bezpečné město, ale využít ji jako nástroj k tomu, aby bezpečné město zůstalo také městem lidským.
Celý dokument můžete najít zde