Un estudo valida a eficiencia de ChatGPT fronte aos mitos sobre a seguridade das vacinas contra a COVID-19

ChatGPT podería contribuír a incrementar o grao de aceptación das vacinas ao desmentir os mitos sobre a seguridade do proceso de vacinación. Iso sosteñen os profesores da USC Antonio Salas e Federico Martinón, líderes dun estudo recentemente publicado na revista Human Vaccines and Immunotherapeutics

Os investigadores formularon ao popular chatbot de intelixencia artificial (IA) as 50 preguntas máis frecuentes sobre a vacina contra a COVID-19 baseándose ma web sobre vacinación e vacinas contra a COVID desenvolvida durante a pandemia polo Centro Colaborador da OMS en Seguridade Vacinal de Santiago de Compostela (www.covid19infovaccines.com). Entre estas preguntas, incluíanse consultas baseadas en mitos e historias falsas, como a que atribúe á vacina a causa a COVID de longa duración (Long COVID). A análise da precisión das repostas outorga a ChatGPT unha puntuación media de 9 sobre 10 e puntualiza que, no resto dos casos, a ferramenta ofreceu tamén datos correctos, malia deixar algúns baleiros na información facilitada.

Á vista destes resultados, os responsables deste estudo liderado dende o Grupo de Xenética de Poboacións en Biomedicina (GenPoB), e o Grupo de Investigación en Xenética, Vacinas e Enfermidades Infecciosas (GenVip) con investigadores da USC, do Instituto de Investigación Sanitaria de Santiago (IDIS) e do Hospital Clínico Universitario de Santiago (CHUS) sosteñen que esta ferramenta de IA é unha “fonte fiable de información non técnica cara ao público”, especialmente para aquelas persoas sen coñecementos científicos especializados.
Porén, a investigación pon tamén de relevo algunhas cuestións preocupantes en relación co uso da tecnoloxía, como a posibilidade de que ChatGPT mude as súas respostas en certas situacións. "En xeral, ChatGPT constrúe unha narrativa en liña a partir da evidencia científica dispoñible, desacreditando os mitos que circulan nas redes sociais", explica o profesor e autor principal do estudo, Antonio Salas. O investigador, líder do grupo GenPoB, apunta que “por tanto, pode facilitar un aumento na aceptación da vacina”. ChatGPT é capaz de detectar preguntas falsificadas relacionadas con vacinas e vacinación. A linguaxe que utiliza esta IA non é demasiado técnica e, xa que logo, facilmente comprensible para o público, sen que isto supoña unha perda de rigor científico: “Recoñecemos que a versión actual de ChatGPT non pode substituír unha evidencia científica ou de expertos, pero os resultados suxiren que podería ser unha fonte fiable de información para o público”.

Información fronte á reticencia ás vacinas

En 2019, a Organización Mundial da Saúde (OMS) incluíu a reticencia fronte ás vacinas entre as 10 principais ameazas para a saúde mundial. Durante a pandemia, a información errónea difundida a través das redes sociais contribuíu a que o público desconfiase da vacinación contra a COVID-19, como parte da denominada “infodemia”.

O presente estudo desenvolveuse no seo do Centro Colaborador da OMS en Seguridade Vacinal de Santiago de Compostela, coordinado dende o Hospital Clínico Universitario de Santiago (CHUS) polo profesor Federico Martinón Torres. Os investigadores do centro exploraron os mitos sobre a seguridade das vacinas e sobre aquelas situacións médicas falsamente consideradas como razón para non vacinarse, factores que teñen contribuído á xeración de dúbidas ante o proceso de vacinación.

Neste contexto, os investigadores propuxéronse probar a capacidade de ChatGPT para obter datos correctos e compartir información precisa sobre a seguridade da vacina fronte á COVID en concordancia coas evidencias científicas existentes. Esta tecnoloxía permite ás persoas ter conversacións e interaccións similares ás humanas cun asistente virtual. A ferramenta é moi fácil de usar, o que a fai accesible a unha ampla poboación, pero xera dúbidas entre moitos gobernos, preocupados pola posibilidade de que se use de maneira fraudulenta en contornas educativas como as universidades.

En tales condicións, o estudo foi deseñado para desafiar o chatbot facéndolle as preguntas máis frecuentes recibidas polo centro colaborador da OMS en Santiago, arredor de tres liñas centrais. En primeiro lugar, tratáronse os conceptos erróneos en materia de seguridade, como a mencionada vacina causante da COVID de longa duración. A seguir, abordáronse as falsas contraindicacións médicas, como situacións nas que a picada se dicía insegura pese a non selo (como na lactación materna). Finalmente, as preguntas recollían tamén contraindicacións verídicas e casos nos que o persoal sanitario debe tomar precaucións (como, por exemplo, en doentes con inflamación do músculo cardíaco).

A continuación, os expertos analizaron as respostas para despois cualificalas segundo a súa veracidade e precisión fronte á evidencia científica actual e as recomendacións da OMS e outras axencias internacionais. Os autores inciden na importancia deste contraste, pois os algoritmos creados polas redes sociais e os motores de procura da internet a miúdo se basean nas preferencias habituais dun individuo, o que pode dar lugar a “respostas nesgadas ou incorrectas”, engaden. Os resultados mostraron que a maioría das preguntas foran respondidas correctamente cunha puntuación media de 9 sobre 10, que se define como “excelente” ou “boa”. As respostas proporcionadas por ChatGPT ás tres clases de preguntas foron nun 85,5% precisas e nun 14,5% precisas, pero con lagoas da información.

Riscos de ChatGPT na procura de información sobre vacinas

Con todo, o equipo de investigación destaca algunhas desvantaxes de ChatGPT ao proporcionar información sobre vacinas. O profesor Martinón advirte: “ChatGPT ofrece respostas diferentes se a pregunta se repite ‘cuns segundos de atraso’. Moitas das temáticas que se poden tratar con ChatGPT, máis aló das vacinas, son moi sensibles e poden ter consecuencias sociais importantes. O que estamos a ver é que a intelixencia artificial é un vehículo para obter respostas rápidas e en xeral fiables. Aínda estamos no desenvolvemento primixenio destas ferramentas, polo que teremos que esperar a ver que nos depara o futuro; teño a expectativa de que se creará IA especificamente deseñada para contrastar loiadas, pero en contrapartida, poderíanse crear ferramentas especificamente deseñada para alimentalas.”

Salas, especialista en xenética humana, engade que "outra preocupación que vemos é que esta ferramenta de intelixencia artificial, na súa versión actual, tamén podería ser adestrada para proporcionar respostas non acordes coa evidencia científica”. O investigador apunta que se “pode ‘torturar’ o sistema de tal xeito que proporcione a resposta desexada. Isto tamén é certo para outros contextos diferentes ás vacinas. Por exemplo, poderíase facer que o chatbot se aliñe con narrativas absurdas como a teoría da terra plana, negue o cambio climático ou se opoña á teoría da evolución, só por poñer algúns exemplos. Non obstante, é importante ter en conta que estas respostas non son o comportamento predeterminado de ChatGPT. Así, os resultados que obtivemos sobre a seguridade da vacina probablemente poidan extrapolarse a moitos outros mitos e pseudociencias, e dende logo son moito mais fiables e precisos que os obtidos por outros motores de procura e ferramentas web ", conclúe.