U Australiji kompjuter odobrava pomoć u kući, stručnjaci ne mogu mijenjati odluke

Ženi s brzo napredujućom, neizlječivom neurološkom bolešću u Australiji odobrena je druga najviša razina kućne skrbi, ali uz standardni prioritet i procijenjeno čekanje od deset do jedanaest mjeseci. Njezina obitelj u pritužbi navodi da je promjena prioriteta odbijena zbog algoritamske odluke, unatoč tome što je prepoznato da takav ishod nije dobar za nju.

Taj slučaj ističe izvješće australskog saveznog pravobranitelja Iaina Andersona objavljeno 26. listopada. Predmet istrage bio je sustav procjene potreba starijih, u kojem računalni alat IAT određuje pristup programima kućne skrbi, razinu financiranja i prioritet.

Paradoksalno, stručnjaci prikupljaju podatke i preporučuju usluge, ali automatizirani rezultat ne mogu zamijeniti vlastitom procjenom samo zato što ga smatraju klinički neprimjerenim.

Prigovor vraća slučaj istom algoritmu

Ni postupak preispitivanja ne uklanja taj problem. Moguće je ispraviti pogrešno unesene podatke ili unijeti nove dokaze, no odluku ponovno donosi stroj. Prema izvješću, od studenoga 2025. godine unutarnja preispitivanja trajala su prosječno 72 dana.

Pravobranitelj upozorava na proturječje: stručno znanje prihvaća se pri unosu podataka, ali stručnjacima nije omogućeno da prema njemu promijene konačni rezultat. Istraga nije klinički provjeravala točnost algoritma pa ne dokazuje da su njegove procjene nužno pogrešne.

Problemi obuhvaćaju i nedostatan nadzor nad organizacijama koje provode procjene, provjeru osposobljenosti procjenitelja te postupanje s pritužbama. Ministarstvo je 6. listopada objavilo dodatne informacije o algoritmu, no pravobranitelj smatra da tek treba utvrditi jesu li dovoljno detaljne za neovisnu provjeru rezultata. Među deset preporuka traži izmjenu zakona kojom bi ovlašteni procjenitelji dobili mogućnost promjene automatizirane odluke u odgovarajućim okolnostima.

Čovjek će moći presuditi, ali samo u iznimnim slučajevima

Australska vlada već je najavila neovisnu stručnu provjeru sustava, čiji se rezultati očekuju u prvoj polovici 2027. Ministar za skrb o starijima Sam Rae rekao je da su pravila već mijenjana, među ostalim kako bi bolest motornog neurona bila posebno prepoznata kao razlog za hitan prioritet.

Od siječnja 2027. godine najavljen je i poseban postupak za iznimne slučajeve. Ovlast promjene razine financiranja ili prioriteta tada bi imalo ministarstvo. Ipak, stručnjaci koji neposredno procjenjuju potrebe starije osobe neće dobiti ovlasti da sami promijene odluku algoritma.