En una reciente investigación llevada a cabo por el Observatorio de Internet de Stanford, se ha descubierto un perturbador uso de miles de imágenes de abuso sexual infantil en bases de datos empleadas para el entrenamiento de populares generadores de imágenes con inteligencia artificial (IA).
Tecnología22/12/2023
Ahora Noticias
En una reciente investigación llevada a cabo por el Observatorio de Internet de Stanford, se ha descubierto un perturbador uso de miles de imágenes de abuso sexual infantil en bases de datos empleadas para el entrenamiento de populares generadores de imágenes con inteligencia artificial (IA), incluyendo Stable Diffusion. Este revelador hallazgo plantea serias preocupaciones sobre la ética en el desarrollo de sistemas de IA y su impacto en la privacidad y seguridad de los individuos.
La base de datos en cuestión, denominada LAION-5B, albergaba 3.226 imágenes de presuntos abusos sexuales infantiles, según el informe del Observatorio. La utilización de este material para el entrenamiento de modelos de IA ha permitido la generación de imágenes realistas y explícitas, utilizando la apariencia de niños y niñas ficticios. Además, se encontró que estos sistemas también recurrieron a la manipulación de fotos de cuentas de redes sociales de adolescentes reales, provocando alarmas en instituciones educativas y departamentos de policía en diversos países.
Ante la repercusión de la investigación, LAION anunció la retirada temporal de sus conjuntos de datos con el objetivo de garantizar su seguridad antes de cualquier republicación. En cuanto a Stable Diffusion, aunque la versión más reciente (2.0) ha implementado medidas para dificultar la creación de contenido perjudicial, la versión anterior (Stable Diffusion 1.5) sigue siendo identificada como el modelo más popular para generar contenido explícito, según los investigadores.
Los expertos abogan por la eliminación de los conjuntos de entrenamiento derivados de LAION-5B y exhortan a aquellos que trabajan con IA basada en Stable Diffusion 1.5 a considerarlos obsoletos y cesar su producción. Este hallazgo destaca la urgencia de establecer normas éticas más estrictas en el desarrollo de tecnologías de IA, así como la necesidad de una supervisión rigurosa para prevenir el uso indebido de material sensible en la formación de estos sistemas avanzados.
El Departamento de Justicia de EE.UU. solicita a Google vender Chrome y detener acuerdos exclusivos con Apple y Samsung para restaurar la competencia en búsquedas.
La misión Solar Orbiter, una colaboración entre la Agencia Espacial Europea (ESA) y la NASA, ha captado las imágenes de mayor resolución de la superficie solar jamás obtenidas.
NASA alerta sobre un posible colapso catastrófico en el módulo ruso, mientras que Roscosmos considera el problema como controlable.
Los códigos de barras, esenciales en el comercio global, han generado temores insólitos desde su invención, como ser "la Marca de la Bestia".
Las reformas buscan resguardar la información de los ciudadanos y prevenir ciberdelitos, posicionando al país como líder en la región.
Un equipo de biólogos ha identificado un "tercer estado" entre la vida y la muerte, demostrando que las células pueden seguir funcionando de maneras sorprendentes tras la muerte de un organismo.
Equipos de emergencia intensifican atención integral en albergues, priorizando salud, seguridad y bienestar de las familias afectadas por lluvias.
La Fiscalía desarticuló una red de estafadores que defraudó $333,000 ofreciendo servicios inexistentes como viajes y paquetes funerarios.
Protección Civil monitorea lluvias, atiende emergencias en carreteras y refuerza atención integral para familias en albergues afectados por las recientes precipitaciones.
Daniel Ortega propone reforma constitucional en Nicaragua para convertir a su esposa, Rosario Murillo, en copresidenta y consolidar control sobre los tres poderes.
La misión Solar Orbiter, una colaboración entre la Agencia Espacial Europea (ESA) y la NASA, ha captado las imágenes de mayor resolución de la superficie solar jamás obtenidas.