Un colectivo de especialistas en IA y ejecutivos del sector tecnológico han solicitado una pausa de seis meses en el entrenamiento de los sistemas de IA más potentes, alegando que estos representan una amenaza potencial para la humanidad.
Tecnología30/03/2023
Ahora Noticias
La moción fue emitida a tan solo dos semanas de que OpenAI diera a conocer GPT-4, una versión aún más avanzada de la tecnología que alimenta el popular chatbot de inteligencia artificial, ChatGPT.
En sus primeras pruebas y en una demostración de la empresa, se mostró que esta tecnología puede redactar demandas, aprobar exámenes estandarizados y crear un sitio web funcional a partir de un simple boceto dibujado a mano.
Se ha afirmado que los laboratorios que trabajan en esta tecnología se encuentran en una carrera desenfrenada para desarrollar y desplegar mentes digitales cada vez más poderosas, que incluso sus creadores no pueden entender, predecir o controlar de manera fiable.
La declaración fue firmada por más de 1.000 personas, incluyendo al empresario Elon Musk, al cofundador de Apple Steve Wozniak, y al CEO de la compañía Stability AI, Emad Mostaque, además de investigadores de DeepMind.
El colectivo ha instado a las empresas que desarrollan estos programas a que "pausen inmediatamente durante al menos 6 meses el entrenamiento de los sistemas de IA más poderosos, incluyendo GPT-4", la versión más avanzada de ChatGPT, uno de los sistemas de IA más potentes del mundo desarrollado por OpenAI. Tanto GPT-4 como ChatGPT son sistemas de IA generativa que utilizan algoritmos y texto predictivo para crear contenido nuevo basado en instrucciones.
La declaración advierte que estos sistemas pueden plantear "profundos riesgos para la sociedad y la humanidad", y que la pausa en el entrenamiento debe ser pública, verificable e incluir a todos los actores clave. Si no se puede implementar rápidamente, los gobiernos deberían intervenir e instituir una suspensión.
Los expertos argumentan que los sistemas de IA pueden generar información errónea y reemplazar los trabajos con automatización, lo que podría conducir a la desaparición de 300 millones de empleos, según un informe reciente de Goldman Sachs. Sin embargo, también podría crear nuevos empleos y aumentar la productividad.
La nota emitida plantea la pregunta de si se deberían desarrollar mentes no humanas que eventualmente podrían super en número, ser más inteligentes, dejar obsoletos y reemplazar a los seres humanos.
OpenAI, la empresa detrás de GPT-4, también ha advertido sobre los potenciales riesgos de la tecnología, señalando que "una superinteligencia desalineada podría causar un daño grave al mundo; un régimen autocrático con una superinteligencia decisiva podría hacer eso también".
Elon Musk, quien fue cofundador de OpenAI pero renunció a la junta directiva de la organización hace algunos años, ha publicado mensajes críticos en Twitter sobre la dirección de la empresa. Las funciones de conducción autónoma desarrolladas por su empresa de automóviles Tesla, al igual que la mayoría de otros sistemas similares, utilizan tecnología artificial.
Se han presentado propuestas para la regulación de la tecnología en EE.UU., Reino Unido y la Unión Europea. A pesar de que el Reino Unido ha descartado la creación de un organismo regulador dedicado a la IA.
El Departamento de Justicia de EE.UU. solicita a Google vender Chrome y detener acuerdos exclusivos con Apple y Samsung para restaurar la competencia en búsquedas.
La misión Solar Orbiter, una colaboración entre la Agencia Espacial Europea (ESA) y la NASA, ha captado las imágenes de mayor resolución de la superficie solar jamás obtenidas.
NASA alerta sobre un posible colapso catastrófico en el módulo ruso, mientras que Roscosmos considera el problema como controlable.
Los códigos de barras, esenciales en el comercio global, han generado temores insólitos desde su invención, como ser "la Marca de la Bestia".
Las reformas buscan resguardar la información de los ciudadanos y prevenir ciberdelitos, posicionando al país como líder en la región.
Un equipo de biólogos ha identificado un "tercer estado" entre la vida y la muerte, demostrando que las células pueden seguir funcionando de maneras sorprendentes tras la muerte de un organismo.
Equipos de emergencia intensifican atención integral en albergues, priorizando salud, seguridad y bienestar de las familias afectadas por lluvias.
La Fiscalía presenta pruebas en contra de Sigfrido Reyes y su familia por enriquecimiento ilícito, reclamando la devolución de $472,464 al Estado.
El Salvador será sede de la segunda edición de la Americas Winners Cup 2024, con equipos de siete países compitiendo en fútbol playa.
Claudia Sheinbaum asegura que México tiene un plan para recibir a los deportados si Donald Trump ejecuta deportaciones masivas al asumir el cargo.
La Ley de Bancos Cooperativos promueve la transparencia, solidez y competitividad de las instituciones financieras en El Salvador, garantizando la protección de los usuarios.