La nueva integración de inteligencia artificial en los resultados de búsquedas de Google, conocido como «AI Overview», enfrenta una serie de problemas debido a las respuestas equivocadas —e incluso peligrosas— que proporciona a los usuarios. La nueva función, diseñada para ofrecer contestaciones rápidas a las consultas de los usuarios, ha generado múltiples errores que han desatado una fuerte reacción en línea.
Algunos ejemplos incluyen sugerir a los usuarios que ingieran piedras pequeñas cada día y beber dos litros de orina diaria para tratar cálculos renales. También ha recomendado el uso de pegamento no tóxico para evitar que el queso se deslice de una pizza. Estos errores han socavado la confianza en Google, una plataforma a la que recurren más de dos mil millones de personas en busca de información.
La repercusión de estas respuestas equivocadas se ve exacerbado por el hecho de que las recomendaciones aparecen en la parte superior de la página de resultados de búsqueda de Google, desplazando a los contenidos orgánicos de sitios Webs (tal como lo hacíamos usualmente). Según un portavoz de la compañía, «la gran mayoría de los resúmenes de AI Overview proporcionan información de alta calidad con enlaces para profundizar en la Web». Sin embargo, los errores han demostrado que la incorporación segura de la IA en el motor de búsqueda es un desafío continuo.
AI Overview no es primer error en AI de Google
No es la primera vez que Google enfrenta problemas con sus herramientas de inteligencia artificial. En febrero de 2023, el chatbot Bard, diseñado para competir con ChatGPT, compartió información incorrecta sobre el espacio exterior, lo que provocó una caída en el valor de mercado de la empresa de 100 mil millones de dólares. Más recientemente, la función de generación de imágenes de Gemini, sucesora de Bard, fue criticada por crear imágenes históricamente inexactas.
Google ha respondido a las críticas asegurando que toma «acciones rápidas sobre las consultas ofensivas» y ha comenzado a implementar mejoras para abordar estos problemas. Sin embargo, los errores han continuado, sugiriendo que la compañía aún tiene mucho camino por recorrer para perfeccionar sus sistemas de IA.
Según un portavoz de Google, «los ejemplos que hemos visto son consultas poco comunes y también hemos visto ejemplos que fueron manipulados o que no pudimos reproducir». A pesar de la extensiva prueba antes del lanzamiento, los fallos en los resúmenes de AI Overview han mostrado las debilidades de la tecnología en su estado actual.
