En una reciente investigación llevada a cabo por el Observatorio de Internet de Stanford, se ha descubierto un perturbador uso de miles de imágenes de abuso sexual infantil en bases de datos empleadas para el entrenamiento de populares generadores de imágenes con inteligencia artificial (IA).
Tecnología22/12/2023
Ahora Noticias
En una reciente investigación llevada a cabo por el Observatorio de Internet de Stanford, se ha descubierto un perturbador uso de miles de imágenes de abuso sexual infantil en bases de datos empleadas para el entrenamiento de populares generadores de imágenes con inteligencia artificial (IA), incluyendo Stable Diffusion. Este revelador hallazgo plantea serias preocupaciones sobre la ética en el desarrollo de sistemas de IA y su impacto en la privacidad y seguridad de los individuos.
La base de datos en cuestión, denominada LAION-5B, albergaba 3.226 imágenes de presuntos abusos sexuales infantiles, según el informe del Observatorio. La utilización de este material para el entrenamiento de modelos de IA ha permitido la generación de imágenes realistas y explícitas, utilizando la apariencia de niños y niñas ficticios. Además, se encontró que estos sistemas también recurrieron a la manipulación de fotos de cuentas de redes sociales de adolescentes reales, provocando alarmas en instituciones educativas y departamentos de policía en diversos países.
Ante la repercusión de la investigación, LAION anunció la retirada temporal de sus conjuntos de datos con el objetivo de garantizar su seguridad antes de cualquier republicación. En cuanto a Stable Diffusion, aunque la versión más reciente (2.0) ha implementado medidas para dificultar la creación de contenido perjudicial, la versión anterior (Stable Diffusion 1.5) sigue siendo identificada como el modelo más popular para generar contenido explícito, según los investigadores.
Los expertos abogan por la eliminación de los conjuntos de entrenamiento derivados de LAION-5B y exhortan a aquellos que trabajan con IA basada en Stable Diffusion 1.5 a considerarlos obsoletos y cesar su producción. Este hallazgo destaca la urgencia de establecer normas éticas más estrictas en el desarrollo de tecnologías de IA, así como la necesidad de una supervisión rigurosa para prevenir el uso indebido de material sensible en la formación de estos sistemas avanzados.
La introducción de drones guiados por fibra óptica ha intensificado los ataques rusos, desafiando las defensas ucranianas y alterando las tácticas de guerra.
El título ya supera los dos millones de copias vendidas en solo 15 días.
La plataforma utilizará inteligencia artificial de Google para insertar anuncios justo cuando el interés del espectador alcanza su punto máximo.
Nintendo asegura la fabricación de su nueva consola aliándose con Samsung para evitar retrasos.
Francia impulsa una iniciativa para restringir el acceso a redes sociales a menores de 15 años en toda la Unión Europea.
Un nuevo estudio revela que el manto lunar es asimétrico y más caliente en la cara visible desde la Tierra.
La zona norte, la cordillera volcánica y el oriente registrarán mayor actividad lluviosa desde la tarde hasta la noche
La PNC incorporó 251 agentes que culminaron su preparación en la Academia Nacional de Seguridad Pública este viernes.
Finalizó la reunión anual de Codicader con la exposición del nuevo plan estratégico para los próximos cinco años.
CEL podrá financiar proyecto que ampliará la generación de energía renovable y beneficiará a comunidades cercanas
El mandatario anunció un aumento del 25% al 50% en los aranceles al acero e impulsó una inversión de Nippon Steel en U.S. Steel que promete miles de empleos