Es muy probable que utilices, o hayas utilizado alguna vez, la IA de Google para realizar consultas personales o relacionadas con la salud. La compañía incluso ofrece en su buscador un modo de resúmenes generados por IA para encontrar rápidamente una respuesta a nuestros problemas. A esta función se le conoce como AI Overviews o vistas generales de IA, y aunque puede resultar muy útil en muchos casos, también puede suponer un peligro importante. De hecho, Google ha tenido que desactivar esta herramienta para determinadas consultas tras descubrir que daba respuestas falsas y engañosas. Si todavía tienes acceso a ella para estos casos, deja de usarla ya mismo.
Tal y como ha descubierto The Guardian, la función de AI Overviews lleva meses respondiendo a preguntas médicas que los usuarios realizan en el buscador de Google con datos e información inexacta que podrían poner en riesgo su salud. El citado periódico revela varios ejemplos importantes, como uno en el que la IA aconsejaba a los enfermos de cáncer de páncreas evitar los alimentos ricos en grasas. Varios expertos aseguraron que si un paciente deja de incluir este tipo de alimentos en su dieta, puede aumentar el riesgo de que muera a causa de la enfermedad.
La IA de Google también ha ofrecido resultados erróneos relacionados con las pruebas de función hepática o de cáncer en mujeres, que podía llevar a una persona con alguna de estas enfermedades a pensar que estaba sana o a descartar síntomas reales. Incluso la función ha arrojado resultados falsos relacionados con la salud mental que podrían llevar a las personas a evitar buscar ayuda real.
Google apaga su IA para consultas médicas, aunque no del todo
The Guardian asegura que después de la publicación de su investigación, Google ha estado desactivando de forma silenciosa los resultados para algunas consultas médicas. La IA de la compañía, por ejemplo, ya no muestra información relacionada con las pruebas de función hepática. No obstante, y tal y como detalla el citado periódico, una variación en la pregunta (como por ejemplo usar las siglas médicas en vez del nombre de la enfermedad), basta para que AI Overviews vuelva a ofrecer resultados que podrían ser engañosos o inexactos.
Google se ha pronunciado al respecto alegando que invierten constantemente “en la calidad de las descripciones generales de IA”, y sobre todo en temas relacionados con la salud. Subrayan que en la mayoría de casos, su IA proporciona “información precisa”. Sin embargo, el citado medio también se ha dado cuenta de que la compañía modifica los resultados dependiendo de cómo se formula la pregunta, aunque esté relacionada con la misma consulta.
En cualquier caso, y aunque la IA de Google ahora ofrece resultados médicos limitados, lo más aconsejable es evitar utilizar esta herramienta para consultas relacionadas con la salud, y dirigirse a expertos o a tu centro de salud.