Czy można ufać poradom zdrowotnym udzielanym przez chatboty?

Coraz więcej osób zwraca się ku sztucznej inteligencji (AI), aby pomogła im w codziennym życiu i karierze. ChatGPT jest jednym z najpopularniejszych i najbardziej znanych narzędzi AI. Udziela bezpłatnie sensownych i trafnych odpowiedzi na każde pytanie.

Narzędzia oparte na sztucznej inteligencji generatywnej mają duży potencjał, jeśli chodzi o pomaganie ludziom w zdobywaniu wiedzy na temat swojego zdrowia. Ale odpowiedź nie zawsze jest prawidłowa. Poleganie wyłącznie na poradach zdrowotnych uzyskanych za pośrednictwem ChatGPT może być bardzo ryzykowne i powodować niepotrzebne obawy.

Sztuczna inteligencja generatywna jest wciąż stosunkowo nową i ciągle rozwijającą się technologią. Najnowsze badania dostarczają pierwszych australijskich danych na temat tego, kto używa ChatGPT do udzielania odpowiedzi na pytania dotyczące zdrowia i w jakim celu.

Wyniki mogą pomóc ludziom nauczyć się, jak korzystać z tej nowej technologii w celach zdrowotnych, a także zdobyć nowe umiejętności niezbędne do bezpiecznego korzystania z niej — innymi słowy, zbudować „ umiejętność korzystania ze sztucznej inteligencji w zakresie zdrowia ”.

Kto używa ChatGPT, aby zadawać pytania o zdrowie? O co pytają?

W czerwcu 2024 r. w badaniu zapytano ponad 2000 Australijczyków, czy korzystają z ChatGPT, aby odpowiadać na pytania dotyczące zdrowia. Jedna na dziesięć osób (9,9%) zadała ChatGPT pytanie dotyczące zdrowia w pierwszej połowie 2024 r. Średnio respondenci przyznali, że ufają ChatGPT „w dużym stopniu” (3,1 na 5).

Badanie wykazało również, że odsetek osób korzystających z ChatGPT w celu zadania pytań na temat zdrowia był wyższy w przypadku osób o niskim poziomie wiedzy z zakresu zdrowia, urodzonych w kraju nieanglojęzycznym lub mówiących w domu innym językiem.

Pokazuje to, że ChatGPT może pomóc osobom, które mają trudności z dostępem do tradycyjnych form informacji medycznych w Australii.

Najczęstsze pytania zadawane użytkownikom ChatGPT dotyczą następujących kwestii:

• Dowiedz się o stanie zdrowia (48%)
• Zrozumienie znaczenia objawów (37%)
• Pytać o działania (36%) lub rozumieć terminologię medyczną (35%).

Ponad połowa (61%) zadała co najmniej jedno pytanie, do którego potrzebna była porada z badania klinicznego. Są to pytania bardziej „ryzykowne”. Zapytanie ChatGPT o znaczenie Twoich objawów może pomóc Ci w ogólnym zrozumieniu ich znaczenia, jednak nie zastępuje porady klinicznej.

Osoby urodzone w kraju, w którym nie mówi się po angielsku lub mówiące w domu innym językiem, częściej zadają tego typu pytania.

Dlaczego to jest ważne?

Prawdopodobnie wzrośnie liczba osób wykorzystujących sztuczną inteligencję do pozyskiwania informacji o stanie zdrowia. Badanie wykazało, że 39% osób, które dotychczas nie korzystały z ChatGPT w celu uzyskania informacji o zdrowiu, rozważy rozpoczęcie korzystania z tej usługi w ciągu najbliższych sześciu miesięcy.

Całkowita liczba osób korzystających z narzędzi sztucznej inteligencji generatywnej w celu uzyskania informacji o stanie zdrowia jest jeszcze wyższa, jeśli weźmiemy pod uwagę inne narzędzia, takie jak Google Gemini, Microsoft Copilot i Meta AI.

Warto zauważyć, że w tym badaniu zespół naukowców odkrył, że osoby pochodzące ze społeczności zróżnicowanych kulturowo i językowo mogą chętniej korzystać z ChatGPT w celu uzyskania informacji o zdrowiu.

Jeśli poproszą ChatGPT o przetłumaczenie informacji dotyczących zdrowia, doda to kolejny poziom złożoności. Narzędzia sztucznej inteligencji generatywnej często są mniej dokładne w innych językach.

Musimy inwestować w usługi (zarówno ludzkie, jak i maszynowe), aby mieć pewność, że mówienie w innym języku nie będzie stanowiło bariery w dostępie do wysokiej jakości informacji medycznych.

Jak wygląda „wiedza o zdrowiu dzięki sztucznej inteligencji”?

Sztuczna inteligencja (AI) stwarza zarówno szanse, jak i zagrożenia dla tych, którzy wykorzystują ją do wyszukiwania informacji zdrowotnych.

Z jednej strony technologia ta jest atrakcyjna dla osób, które i tak napotykają na znaczne bariery w dostępie do opieki zdrowotnej i informacji medycznych. Jedną z jego głównych zalet jest możliwość natychmiastowego i łatwego zrozumienia dostarczenia informacji na temat stanu zdrowia.

Niedawny przegląd badań wykazał, że narzędzia oparte na sztucznej inteligencji generatywnej coraz częściej potrafią odpowiadać na ogólne pytania dotyczące zdrowia, posługując się prostym językiem, choć są mniej dokładne w przypadku skomplikowanych zagadnień zdrowotnych.

Ma to oczywiste zalety, gdyż większość informacji na temat zdrowia jest pisana w sposób zbyt skomplikowany dla ogółu społeczeństwa, nawet w czasie pandemii.

Z drugiej strony ludzie coraz częściej sięgają po wielofunkcyjne narzędzia oparte na sztucznej inteligencji w celu uzyskania porad zdrowotnych. Jest to bardziej ryzykowne w przypadku pytań wymagających badania klinicznego i głębszego zrozumienia pacjenta.

Istnieje wiele studiów przypadków pokazujących zagrożenia wynikające z korzystania z uniwersalnych narzędzi opartych na sztucznej inteligencji w celu podjęcia decyzji o udaniu się do szpitala.

Musimy pomóc ludziom dokładnie przemyśleć, jakiego rodzaju pytania zadają narzędziom AI, aby uzyskać porady, i połączyć ich z odpowiednimi usługami, które mogą udzielić odpowiedzi na ryzykowne pytania dotyczące zdrowia.

Niniejszy artykuł został przetłumaczony i streszczony z The Conversation na podstawie licencji Creative Commons.