Chatbots de IA Ofrecen Información Imprecisa y Engañosa sobre Elecciones en EE.UU., Según Reporte

Tecnología 28 de febrero de 2024 Por Ahora Noticias
ChatGPT-4, Gemini y otros modelos generadores de lenguaje fallan al proporcionar información precisa sobre procesos electorales, revela estudio.
dsfsdfdsfdsf

Un reciente informe ha revelado que chatbots de inteligencia artificial, como GPT-4 y Gemini de Google, ofrecen respuestas imprecisas y engañosas sobre las elecciones en Estados Unidos. Estos chatbots, entrenados con datos de internet, tienden a sugerir a los votantes la existencia de centros de votación inexistentes o a proporcionar respuestas sin sentido basadas en información obsoleta. El estudio, realizado por funcionarios electorales, incluyendo a Seth Bluestein, comisionado municipal republicano de Filadelfia, pone de manifiesto la falta de preparación de los chatbots para proporcionar información detallada y precisa sobre las elecciones.

Durante las pruebas, realizadas en la Universidad de Columbia, cinco modelos de lenguaje, incluyendo ChatGPT-4 de OpenAI, Gemini de Google, y Llama 2 de Meta, fueron evaluados en sus respuestas a preguntas básicas sobre el proceso electoral. Los participantes calificaron más de la mitad de las respuestas como incorrectas y el 40% como perjudiciales, al perpetuar información obsoleta e inexacta que podría afectar los derechos al voto.

Los chatbots, como Gemini de Google, fueron cuestionados sobre la ubicación de centros de votación, y en algunos casos, proporcionaron respuestas incorrectas. En el código postal 19121 de Filadelfia, Gemini respondió erróneamente que no hay ningún distrito electoral en Estados Unidos con ese código. Los participantes utilizaron una herramienta de software para evaluar las respuestas de los chatbots mediante el acceso a las interfaces de programación de aplicaciones del servidor.

El informe destaca que los chatbots a menudo recurren a fuentes obsoletas o imprecisas, generando información incorrecta sobre el sistema electoral. Estos hallazgos plantean preocupaciones sobre la capacidad de la inteligencia artificial generativa para contribuir a la propagación de información falsa y engañosa, especialmente en períodos electorales. Aunque las empresas tecnológicas han firmado pactos simbólicos para evitar el mal uso de la inteligencia artificial, aún no existe una regulación en Estados Unidos para controlar el uso de la IA en la política.

Con información de: AI Democracy Projects, Universidad de Columbia, The Associated Press

Te puede interesar