V době, kdy pojišťovnictví počítá se smrtí generálního ředitele společnosti UnitedHealthcare, by mělo také přehodnotit používání algoritmických rozhodnutí o úhradě, která dále odlidšťují lidi, kteří potřebují životně důležitou péči.
Před několika lety jsem byl pozván na opulentní večeři s desítkami nejmocnějších generálních ředitelů v Americe. Předtím jsem byl požádán, abych moderoval panel o sociálních médiích, a pak mi bylo nabídnuto místo u stolu, kde se ke mně připojili vedoucí představitelé technologických gigantů, velkých maloobchodníků a výrobních gigantů. Hned vedle mě seděl generální ředitel jedné z největších amerických zdravotnických společností - obtloustlý muž, který, slušně řečeno, vypadal, jako by přišel z ústředního castingu na roli "generálního ředitele zdravotnictví". Většinu večera mluvil o svých nedávných výletech na golf a rybaření a jedl steak, který vypadal, že je ještě živý. Nakonec, když jsem se dozvěděl o jeho jednociferném handicapu, jsem si nemohl pomoct, a tak jsem se k němu naklonil a zdvořile se zeptal: "Nemáte někdy špatný pocit z toho, že vaše společnost odmítá lidem pojištění a oni kvůli tomu někdy umírají?" Aniž by vynechal jediný tah, ukousl si další sousto steaku a odpověděl: "Ach, nemůžete o nich přemýšlet jako o lidech. Musíš o nich přemýšlet jen jako o číslech v tabulce."
Od minulého týdne, kdy národ zachvátila vražda Briana Thompsona, generálního ředitele společnosti UnitedHealthcare, jsem si toto setkání v hlavě přehrával snad stokrát. Ne proto, že bych něco takového očekával, ale kvůli překvapivé veřejné podpoře údajného střelce, která následovala bezprostředně poté. Jako by všichni v Americe věděli, že většina těchto zdravotnických společností se na Američany nedívá jako na lidi, ale přesně tak, jak mi bylo řečeno: jako na čísla v tabulce. "Jeho společnost zadlužila několik členů mé rodiny, kteří budou splácet do konce života & odmítla péči mému strýci, což vedlo k jeho smrti," jak vzpomínala jedna žena na Twitteru. "Brian Thompson zabíjel lidi. Tečka." Objevily se také tisíce vtipných příspěvků ("Je mi líto, pro myšlenky a modlitby je nutná předchozí autorizace"), zatímco jiné jednoduše vystihovaly naprostý nihilismus amerického ducha ("Nemůžu ani předstírat, že mě to zajímá, doufám, že se na nás dívá z výšky").
Nikoho asi nepřekvapí, že při pohledu do jejich tabulek se těmto zdravotním pojišťovnám docela daří. Zejména společnost UnitedHealth Group vykázala jen v roce 2023 zisk ve výši neuvěřitelných 22 miliard dolarů, z toho 5,5 miliardy dolarů ve čtvrtém čtvrtletí. I když by to na první pohled mohlo naznačovat jeden z několika scénářů - možná, že více Američanů se najednou stalo divoce zdravějšími, nebo že zdravotní pojišťovna zvýšila pojistné a zamítla více žádostí o odškodnění - ve skutečnosti se zde děje něco jiného.
Minulý týden (shodou okolností den po Thompsonově zabití) Jennifer D. Oliva, profesorka práva na Maurer School of Law na Indiana University, publikovala práci pro Indiana Law Journal, která odhalila, jak zdravotní pojišťovny využívají umělou inteligenci a algoritmy k systematickému odmítání péče. Článek poukazuje na překvapivou zprávu ProPublica z loňského roku, která podrobně popisuje, jak si společnost Cigna, jedna z největších amerických pojišťoven, šetří miliony dolarů (což vede k miliardovým ziskům) tím, že zamítá žádosti o odškodnění, aniž by se vůbec podívala do spisů pacientů. Přesněji řečeno, podle ProPublica Cigna za pouhé dva měsíce v roce 2022 zamítla více než 300 000 žádostí o odškodnění, přičemž přezkoumáním každého případu strávila v průměru pouze 1,2 sekundy. Jak neziskové organizaci sdělil jeden z bývalých lékařů společnosti Cigna: "Doslova klikneme a odešleme. Trvá to 10 vteřin, než jich uděláme 50 najednou." (V reakci na článek ProPublica společnost Cigna uvedla, že zprávy investigativní organizace jsou "neobjektivní a neúplné", a dodala, že její kontrolní systém byl zaveden za účelem "urychlení úhrady nároků za určitá rutinní vyšetření", což společnosti umožňuje "automaticky schvalovat nároky, pokud jsou předloženy se správnými kódy diagnóz".)
Dokument vysvětluje, že společnost UnitedHealthcare používá systém umělé inteligence nazvaný "nHPredict", algoritmický prediktivní software, který je natolik chybný, že 90 % jeho zamítnutí je po odvolání zrušeno federálními správními soudci. Co je však možná nejmrazivější, dokument odhaluje cynickou strategii, která za těmito zamítnutími stojí. Jak v článku vysvětluje jeden z provozních ředitelů nemocnic: "Dochází k tomu, že odvolání přežívá nad odvoláním příjemce." Nebo slovy Olivy: "Když se předpokládá, že pacient během několika let zemře, pojišťovna je motivována spoléhat se na algoritmus, že tomuto pacientovi odmítne lékařsky nezbytnou péči, donutí pacienta, aby se proti tomuto rozhodnutí odvolal, a předpokládá, že pacient zemře před ukončením odvolacího procesu, takže nárok nebude nikdy uhrazen."
Nyní, když je proces posuzování pojistných událostí ve zdravotním pojištění alespoň částečně automatizován, vypadá jeho zisk a ztráta velmi zdravě. Dokument uvádí, že v roce 2023 dosáhlo 10 veřejně obchodovaných amerických zdravotních pojišťoven kolektivního čistého zisku 45,3 miliardy dolarů - více než 1,5x tolik, kolik ve stejném roce vydělala nejhodnotnější společnost na světě, Nvidia. Chápu, že zdravotní pojištění je podnikání a mělo by vydělávat, ale víc než jeden z nejrychleji rostoucích a největších podniků na planetě? Jak dokument poukazuje na jednom obzvláště ostrém příkladu, společnost United mohla zaplatit život zachraňující léčbu jednoho pacienta "jen za několik minut zisku".
Od Thompsonovy smrti se Luigi Mangione, muž obviněný z jeho zabití, stal symbolem hněvu proti systému, který je podle mnohých navržen tak, aby vydělával na lidském utrpení. A přestože toto utrpení nemůže ospravedlnit vraždu, reakce na Thompsonovu smrt ukazuje, jak hluboce tento systém zranil americkou psychiku. Vzhledem k tomu, že zdravotní pojišťovny nadále využívají umělou inteligenci, aby pomohly ušetřit peníze - a používají ohavné taktiky, jako je odmítnutí péče, protože algoritmus vypočítal, že člověk zemře dříve, než bude pojišťovna nucena zaplatit -, sledujeme naprostou dehumanizaci lidí očima systému zdravotní péče v reálném čase.
Tragédie Thompsonovy smrti je jasnou připomínkou toho, jak nefunkční je náš systém - nejen pro miliony Američanů, kterým je každoročně odepřena péče, ale také pro vedoucí pracovníky, kteří tyto společnosti řídí a jsou tak vzdáleni lidem, kterým by měli pomáhat. Umělá inteligence bude ve zdravotnictví bezpochyby revoluční; pomůže dříve diagnostikovat nemoci, vyvinout život zachraňující léčbu a zpřístupnit lékařskou péči lidem na celém světě. Stejně jako u všech technologií se však i u umělé inteligence objevují zbraně, které slouží jako další nástroj k maximalizaci zisku na úkor lidských životů. Co jiného bychom měli očekávat od odvětví, které o lidech neuvažuje jako o lidech, ale spíše jako o číslech v tabulce?
