AI nám možná nevezme práci. Schválně si tipněte, proč | Kapitola 4

Soukromé společnosti mají naopak představu, že jim nikdo nemá co kecat do rozhodování, což je pochopitelně v přímém konfliktu. Tento konflikt se objevuje například u hodnocení kreditního skóre, kdy jako banka chcete půjčovat někomu, kdo vrací a je tak zvaně optimálně zadlužen, tedy žije si nad poměry, ale nějak to unese a banka dostane zpět co je její. Nechcete půjčovat někomu, kdo by peníze potřeboval, ale protože je opravdu v maléru, hrozí u něj default – anebo se k vracení peněz prostě nemá. 

Vy máte představu, že mladý vzdělaný pár, který si vyskakuje z kopýtka, je pro vás ideální, protože je můžete zaúvěrovat až do smrti – ale zřejmě budou mít práci, takže cajk. Pak tu máte pár z ghetta, kde máte velkou rizikovost, že se vám peníze nikdy nevrátí. Protože v moderní společnosti nikoho diskriminovat nesmíte, obfuskujete svoje rozhodování tak, že vytvoříte nějaký rizikový index, podle kterého se rozhodujete: Tak se to dělalo před desítkami let.

Dnes je to jednodušší, vezmete AI, nakrmíte ji daty a AI se naučí sama. Celkem jednoznačně si vytvoří to, čemu dnes říkají aktivisté „rozhodovací bias“ a co bychom u lidí asi nazvali „naučená zkušenost“. A ta bude nutně zahrnovat věci typu bydliště, rasu, trestní rejstřík, vzdělání, pracovní historii a další faktory, podle kterých se rozhodovat nesmíte. Protože ale do rozhodování neuronových sítí nikdo nevidí, tak to tam klidně zahrnete a ty nevhodné případy v prescreeningu tiše vyházíte. 

Dnes už podobné procesy podle všeho zahrnují i vaše názory, politickou orientaci a podobně, takže je tu unikátní šance zbavit se tiše všech, které nechcete, aniž by vás mohli za cokoliv žalovat. A nejenom to – dnes s tím můžete už i aktivně pracovat, například aktivně hledat ty, kteří vás zajímají, opět na základě práce s veřejnými daty. 

Současný stav je docela šílený. Uvádí se, že v USA stojí obsazení volného místa průměrně (PRŮMĚRNĚ!) 5000 dolarů. Náklady na celý ten proces jsou 5000 dolarů! Průměrně! Začínáte chápat, proč existují náborové příspěvky, kde po zkušebce můžete dostat padesát, sto litrů? Tohle je problém.

AI poskytuje cenově efektivní řešení – ale je to dost příšerné řešení, protože je vysoce pravděpodobné, že část lidí většina modelů vyhodnotí jako zcela nezaměstnatelné a odkáže je svým mlčením do tiché prázdnoty. Je to cenově efektivní metoda prescreeningu, která ale dost zásadním způsobem dopadne na životy těch lidí, které na základě naučených kritérií vyloučí jako kategorii. 

Je vysoce pravděpodobné, že to bude zasahovat celé skupiny na základě pracovní historie, vzdělání anebo věku. Je také velmi pravděpodobné, že AI dokáže vyklasifikovat celé další skupiny, které nějak identifikuje v datech a hromadně je vytlačí z trhu práce prostě tím, že jim nedá naprosto žádnou šanci. 

Navíc není úplně jasné, jak komplikovaný ten systém klasifikace je, protože může zahrnovat i vyhledávání v databázích a ověřování faktů, které by asi normální HR manažer nedělal anebo je dělal jen ve výjimečných případech, jako je například hledání referencí. Pokud o sobě budete něco tvrdit, například že jste dělali v nějaké předchozí firmě, může se vás pokusit dohledat. Pokud budete tvrdit, že máte nějaký zdravotní handicap, může se podívat do sociálních médií a zjistit, jestli si náhodou místo marodění neužíváte.