¿Gatos en la Luna? Herramienta de IA de Google da respuestas engañosas que preocupan a los expertos
Associated PressAntes, si preguntabas a Google si los gatos han estado en la Luna, te desplegaba una lista ordenada de sitios web para que descubrieras la respuesta por tu cuenta. “El sistema de IA de Google no es lo suficientemente inteligente como para darse cuenta de que esta cita no respalda realmente la afirmación”, dijo Mitchell en un correo electrónico a la AP. Pero en la mayoría de los casos, Google afirma que el sistema funciona como debería gracias a las muchas pruebas realizadas antes de su lanzamiento público. Cuando en 2021 los investigadores de Google publicaron un artículo titulado “Rethinking search” en el que se proponía utilizar modelos lingüísticos de IA como “expertos en la materia” que pudieran responder a las preguntas con autoridad —algo parecido a lo que hacen ahora—, Bender y su colega Chirag Shah respondieron con un artículo en el que explicaban por qué era una mala idea.