Raziskava fundacije Kaiser Family je pokazala, da se približno eden od šestih odraslih mesečno posvetuje s chatboti za zdravstvene informacije in nasvete. Zakaj to ni primerno, še manj pa pametno?

Netočne in potencialno nevarne informacije

Nedavna študija, objavljena v BMJ Quality & Safety, poudarja nevarnosti zanašanja na umetno inteligenco in kaže, da je bilo precejšnje število njihovih odzivov na zdravila netočnih ali potencialno nevarnih.

Za oceno berljivosti so raziskovalci izračunali Fleschov indeks berljivosti, ki ocenjuje stopnjo izobrazbe, potrebno za razumevanje besedila. Rezultat nad 37 pomeni, da bi posamezniki potrebovali vsaj srednješolsko izobrazbo, da bi razumeli odgovore.

Odgovore klepetalnice so primerjali z informacijami na strokovno pregledanem spletnem mestu o zdravilih, da bi ocenili popolnost in točnost. V povprečju je bila popolnost odgovorov 77-odstotna. Vprašanje z najnižjo oceno popolnosti (23 %) je bilo o premislekih pri jemanju zdravila.

Poleg tega je sedem strokovnjakov za varnost zdravil ocenilo znanstveno soglasje in morebitna tveganja, če bolniki sledijo nasvetom umetne inteligence. Ugotovili so neskladja med izjavami chatbotov in referenčnimi podatki v 26 % odgovorov, pri več kot 3 % pa je bilo popolnoma nedoslednih.

Študija ni vključevala dejanskih izkušenj bolnikov

Študija sicer ni vključevala dejanskih izkušenj pacientov in avtorji so opozorili, da lahko poizvedbe v različnih jezikih ali iz različnih držav vplivajo na kakovost odgovorov umetne inteligence.

Čeprav je umetna inteligenca na splošno zagotovila popolne in natančne odgovore v tej študiji, so raziskovalci opozorili na tveganja njegove uporabe za informacije o zdravilih. Poudarili so, da so odgovori chatbotov pogosto težko berljivi, manjkajo ključni podatki ali vsebujejo netočnosti, kar bi lahko ogrozilo varnost bolnikov in zdravil.

Glede na nezmožnost klepetalnih robotov, da dosledno zagotavljajo zanesljive informacije o zdravilih, je nujno, da se bolniki posvetujejo s svojim zdravnikom. Ne zaupajte vsemu, kar preberete na internetu. Zanašajte se na strokovne in verodostojne informacije in če ne drugega, berite in preverjajte. 

Vir: krenizdravo