Big Data skrývajú obrovský potenciál pre rozvoj podnikania. Tam, kde s ich analýzou končia schopnosti bežného softvéru, nastupuje mnohokrát umelá inteligencia. Ak je to aj váš prípad, pozrite sa, aké zmeny vás čakajú po príchode GDPR.
Čo má spoločné samo ovládateľné auto a program pre hodnotenie úverovej spoľahlivosti klientov banky? Umelú inteligenciu. Práve tá týmto strojom umožňuje využívať aj samo učiace schopností a na ich základe autonómne prijímať rozhodnutia aj vo vopred nenaprogramovaných scenároch. Pre tieto kvality sa umelá inteligencia čoraz častejšie používa pre spracovávanie osobných údajov, najmä potom pre tzv. Big Data – teda súbory dát o veľkom objeme a rôznej štruktúre, ktorých spracovanie a vyhodnotenie v rozumnom čase je mimo možnosti bežne používaných programov. Príkladom sú údaje z analýz sociálnych sietí špecifické svojou dynamikou, ale aj záznamy z kamier či senzorických sietí, ktoré na letiskách pátrajú po podozrivých osobách.
Inteligentní pomocníci
V oboch prípadoch by analýza takéhoto množstva údajov človekom nedávala ekonomický zmysel, ale šikovne naprogramovaný stroj s umelou inteligenciou rovnakú operáciu ľahko zvládne. So zvyšujúcou sa dôležitosťou využitia Big Data v podnikaní dochádza postupne aj k častejšej potrebe túto činnosť zveriť inteligentnému stroju, a zostať tak konkurencieschopný. V poslednej dobe však zaznievajú obavy, či nový právny rámec na čele s GDPR tento trend nezbrzdí a neodradí podniky od zavádzania väčšieho množstva automatizovaných inteligentných systémov, pretože s ich prevádzkou budú kvôli zložitej legislatíve spojené dodatočné náklady. Čo by si mali prevádzkovatelia takýchto strojov uvedomovať v súvislosti s GDPR?
Umelá inteligencia a osobné údaje
Aby urobili rozhodnutie, potrebuje každý systém alebo stroj vstupné dáta. To vyhodnotí a na ich základe sa rozhodne o ďalšom postupe. Môže ísť o dáta úplne nesúvisiace s ľuďmi, napríklad klimatické podmienky v určitom prostredí, prípadne o dáta, ktoré nenapĺňajú všeobecnú definíciu osobných údajov alebo ktorá ju síce napĺňajú, ale činnosťou chytrého stroja nedochádza k ich spracovávaniu v zmysle GDPR. V takom prípade sa dopadom novej regulácie pochopiteľne netreba príliš stresovať.
Avšak rad najrôznejších strojov, zariadení a aplikácií s umelou inteligenciou sa bude na spracovávanie osobných údajov priamo zameriavať, či už to je analýza Big Data, alebo program pre pred schvaľovanie pôžičiek, a preto by ich prevádzkovatelia mali spozornieť a zhodnotiť, či je ich činnosť s nariadením v súlade.
Čo na to GDPR
Ak bude dochádzať vplyvom zariadenie obdareného umelou inteligenciou na spracovávanie osobných údajov, je potrebné sa zamyslieť, či tým zároveň nedochádza k automatizovanému individuálnemu rozhodovaniu či k profilovaniu. Sú to totiž práve tieto dve formy spracovania osobných údajov, ktoré bude činnosť umelej inteligencie pravdepodobne napĺňať.
-
Automatizované rozhodovanie
Automatizované individuálne rozhodovanie je kvalifikovanou formou bežného spracovávania osobných údajov, ktoré oproti klasickému režimu prináša niektoré špecifiká, čo sa vzťahu správca-subjekt týka. Zmyslom jeho úpravy je v niektorých ohľadoch sprísniť pravidlá ochrany osobných údajov, pretože tie sú spracovávané strojovo a bez patričného ľudského dohľadu.
b) Profilovanie
V súvislosti s automatizovaným rozhodovaním je mnohokrát zmieňované aj profilovanie, a hoci sa jedná o dva samostatné inštitúty, u komplexných systémov často pôjde o nerozlučnú dvojicu. Rovnako sa jedná o jednu z foriem automatizovaného spracovania osobných údajov, na základe ktorej dochádza najprv k vyhodnocovaniu správania konkrétnych osôb, a to najmä na účely rozboru či predvídania aspektov týkajúcich sa jej pracovného výkonu, ekonomickej situácie, zdravotného stavu, osobných preferencií, záujmov alebo spoľahlivosti . Po tomto vyhodnotení spravidla nasleduje zaradenie do príslušnej škatuľky, a to s ostatnými subjektmi, ktoré majú podobný profil. Práve po takomto vyprofilovaní osoby bude často dochádzať k automatizovanému individuálnemu rozhodnutiu v závislosti od toho, do ktorej skupiny vás sýtom zaradil a aké spoločné znaky v rámci škatuľky vykazujete.
Umelá inteligencia pod kontrolou
Jednou zo základných úloh nového nariadenia je úplná transparentnosť voči subjektom údajov. A s tou treba rátať aj v prípade zariadení s umelou inteligenciou. Jedným z najproblematickejších ustanovení GDPR vo vzťahu k zariadeniam s umelou inteligenciou vykonávajúcich automatizované rozhodnutia vrátane profilovanie je bezpochyby povinnosť správcov umožniť subjektom realizáciu práva na ľudský zásah zo strany správcu. Popri tom nariadenie od správcu tiež očakáva plnenie informačných povinností, a to tak, že v prípade žiadosti subjektu mu správca zrozumiteľne, nie však nedostatočne, vysvetlí, v čom spočíva logika automatizovaného spracovania a na akých princípoch je založené.
Bez ľudí to nejde
Možno si predstaviť, že vyššie uvedené požiadavky môžu donútiť niektoré spoločnosti upustiť od plánov zaviesť v rámci ich prevádzky systémy s umelou inteligenciou, prípadne môžu prispieť k zavádzaniu menej zložitých systémov užívajúcich ľahšie interpretovateľné algoritmy. Tie ale na druhú stranu môžu byť menej spoľahlivé a zvyšovať frekvenciu nespravodlivých rozhodnutí vo vzťahu k dotknutým osobám. V každom prípade zmysel umelej inteligencie, teda nahradenie človeka pri určitej činnosti samostatným zariadením s umelou inteligenciou, je tu uvedenými povinnosťami do určitej miery popretý. Súlad s nariadením bude vyžadovať nezanedbateľné ľudské zdroje na neustály monitoring a objasňovanie fungovanie vášho systému.
Analýza a využívanie Big Data za pomoci umelej inteligencie patrí v poslednej dobe k hlavným trendom na vyspelých trhoch a pripraviť sa o túto možnosť kvôli obavám zo striktného výkladu GDPR by mohlo znížiť konkurencieschopnosť tuzemských firiem voči mimoeurópskym podnikom. Aj v tomto bode tak platí, že šťastie praje pripraveným a v prípade využitia systémov s umelou inteligenciou treba od samého počiatku ich vývoja myslieť na nové pravidlá ochrany dát.