Google Suspende Generación de Imágenes con IA tras error

Google anunció la suspensión de un servicio que utiliza inteligencia artificial (IA) para crear imágenes de personas, luego de un error que provocó la representación de tropas alemanas de la Segunda Guerra Mundial con variados orígenes étnicos. La nueva versión mejorada del programa Gemini, lanzada el 8 de febrero en algunos países, tuvo que ser interrumpida para abordar los problemas recientes relacionados con la función de generación de imágenes.

La empresa afirmó en un comunicado que solucionarán los problemas y pronto lanzarán una versión mejorada del servicio. Este percance surge en medio de la creciente importancia de la inteligencia artificial en diversos campos, desde motores de búsqueda hasta cámaras de teléfonos inteligentes. Sin embargo, la IA ha enfrentado críticas por perpetuar prejuicios raciales en sus resultados.

Un usuario de la plataforma X compartió imágenes del programa Gemini generando soldados alemanes de 1943 con una diversidad étnica inapropiada. Aunque la IA había producido imágenes de soldados de diferentes etnias, esto generó preocupación y críticas sobre la falta de diseño y prueba adecuada del mecanismo de diversidad de GoogleAI.

Las grandes empresas tecnológicas, incluyendo Google, han sido acusadas de lanzar productos de IA antes de realizar pruebas exhaustivas. Google ha tenido historiales irregulares en el lanzamiento de productos de IA, y el incidente más reciente resalta la importancia de probar adecuadamente las nuevas tecnologías para evitar errores y controversias.

El modelo actualizado de IA, denominado Gemini 1.5 Pro, fue lanzado la semana pasada para que clientes y desarrolladores prueben sus nuevas funciones y desarrollen aplicaciones comerciales. Este episodio destaca los desafíos que enfrentan las empresas tecnológicas al avanzar en sus capacidades de IA generativa mientras buscan evitar problemas relacionados con sesgos y representación inapropiada.