Etika a big data

Na čo všetko sa dajú použiť big data? Ich využitie je zdanlivo neobmedzené. Machine learning a big data sú slová, ktoré sú dnes skloňované vo všetkých možných priemyselných odvetviach.



Algoritmy používané pri spracovaní big data sú schopné učiť sa. Ich učenie sa je však obmedzené na existujúce prípady, ktoré majú vo svojich databázach. V niektorých situáciách je práve toto výhodné.  Algoritmus je takto dobre uspôsobený rozpoznať štruktúru začínajúceho rakovinového nádoru. V iných situáciách však táto jednostrannosť nemusí prinášať optimálne výsledky. Napríklad v situáciách, keď ide o posudzovanie ľudí. Už v roku 2017 na kongrese ITAPA futurológ Gerd Leonhard hovoril o hrozbách, ktoré pre ľudstvo môže znamenať, keď technológiám zveríme viac rozhodovacích právomocí.

V procese najímania nových zamestnancov sa už objavili prvé lastovičky firiem, ktoré používajú technológiu rozpoznávanie tváre. Americká spoločnosť HireVue vyvinula technológiu, ktorá analyzuje slová a hlas jednotlivých kandidátov, ktorí počas pracovného pohovoru odpovedajú na rovnaké otázky. Parametre posudzovania zahŕňajú napríklad používanie pasívnych a aktívnych slov, dĺžku viet, rýchlosť prejavu, krčenie obočia, úsmev, zúženie alebo rozšírenie očí. Technológiu už vyskúšalo cca 700 spoločností. Podľa HireVue táto technológia umožňuje skrátiť proces prijatia nového zamestnanca o 90%. Systém pracuje s databázou predošlých pohovorov s kandidátmi, ktorí v procese uspeli.

Každá technológia má svoje obmedzenia. Podobné využitie umelej inteligencie vedie k tomu, že novo prijatí zamestnanci budú kopírovať  zamestnancov, ktorí už vo firme pracujú. To je zdanlivo želané, nemať vo firme ľudí, ktorí môžu svojou odlišnosťou vyvolávať potenciálne konfliktné situácie.  Ideálne zloženie zamestnancov firmy však nie sú ľudia, ktorí zdieľajú rovnaké názory, či už politické alebo kultúrne a majú rovnaké povahové črty. Naopak, najproduktívnejšie sú tímy, ktoré majú internú dynamiku dosiahnutú zložením z rôznych typov ľudí.

Ďalší možný problém je, že systém nebude schopný relevantne analyzovať typy ľudí, ktorých dovtedy na pohovoroch nestretol. Dajme tomu, že algoritmus bol trénovaný na vzorke Američanov. A na pohovor potom príde Japonec. Ak aj by jeho angličtina bola nerozoznateľná od človeka narodeného a vychovaného v Amerike, stále má vysokú šancu pohorieť na pohovore. Pochádza totiž z iného kultúrneho prostredia, ktoré preferuje iný výraz tváre a iný typ hlasového prejavu. Umelá inteligencia len preberie dáta úspešných kandidátov, nebude však vyhodnocovať úspešnosť kandidátov iným spôsobom, ako bola naprogramovaná.

Dostávame sa tak do situácie, keď hrozí, že sa umelá inteligencia zmení na dobrého sluhu a zlého pána. Pri sofistikovanom využívaní AI je dôležité brať do úvahy limity, ktoré algoritmy majú. Zatiaľ sa ešte do počítačov neprogramuje Kantov kategorický imperatív ani Asimovove tri zákony robotiky. Ako ale na Gerd na kongrese ITAPA 2017 upozornil, je najvyšší čas na etickú konverzáciu o digitálnych technológiách.  

 


Páčil sa ti článok? Zdieľaj ho a povedz o ňom aj ostatným