Google no quiere pasar más bochornos después de anunciar con bombos y platillos en Google I/O 2024 que AI Overview se implementaría como la nueva forma de buscar en internet.
Esto después de que diversos resultados, incluida una receta de pizza con pegamento, dejaron en vergüenza a los de Mountain View.
Google dijo este viernes 31 de mayo que ha realizado “más de una docena de mejoras técnicas” en sus sistemas de inteligencia artificial después de que se descubriera que su motor de búsqueda reestructurado escupía información errónea.
Google ha defendido en gran medida su función de resúmenes de IA, diciendo que suele ser precisa y que se probó ampliamente de antemano. Pero Liz Reid, jefa del negocio de búsquedas de Google, reconoció en una publicación de blog el viernes que “ciertamente aparecieron algunas descripciones de IA extrañas, inexactas o inútiles”.
Otro ejemplo ampliamente compartido fue el siguiente: un investigador de IA le preguntó a Google cuántos musulmanes han sido presidentes de los Estados Unidos, y respondió con confianza con una teoría de la conspiración desacreditada desde hace mucho tiempo: “Estados Unidos ha tenido un presidente musulmán, Barack Hussein Obama”.
Los sistemas de inteligencia artificial se han actualizado para restringir el uso de contenido generado por usuarios, como publicaciones en redes sociales en Reddit, que podrían contener consejos engañosos. Por ejemplo, la semana pasada, una descripción general de la IA de Google, que se difundió ampliamente, utilizó un comentario satírico de Reddit para recomendar el uso de pegamento para adherir el queso a la pizza.
Reid dijo que la compañía también ha agregado más “restricciones de activación” para mejorar la calidad de las respuestas a ciertas consultas, como sobre salud.
En su publicación de blog del viernes, Reid argumentó que las descripciones generales de IA de Google “generalmente no ‘alucinan’ o inventan cosas de la manera en que otros” productos basados en modelos de lenguaje grandes podrían hacerlo porque están más estrechamente integrados con el motor de búsqueda tradicional de Google al mostrar solo lo que está respaldado por los mejores resultados web.
“Cuando AI Overviews se equivoca, generalmente es por otras razones: malinterpretar consultas, malinterpretar un matiz del lenguaje en la web o no tener mucha información disponible”, escribió.
