Inteligencia Artificial pone en riesgo elecciones en el Reino Unido y los EE.UU.

Expertos advierten que las elecciones del próximo año en Gran Bretaña y EE. UU. podrían estar marcadas por una ola de desinformación impulsada por IA, ya que las imágenes, el texto y los videos falsos generados se vuelven virales a instancias de enjambres de bots de propaganda impulsados ​​por IA.

Sam Altman, CEO del creador de ChatGPT, OpenAI, dijo en una audiencia en el Congreso en Washington esta semana que los modelos detrás de la última generación de tecnología de IA podrían manipular a los usuarios.

“La capacidad general de estos modelos para manipular y persuadir, para proporcionar desinformación interactiva uno a uno es un área importante de preocupación”, dijo.

“La regulación sería bastante sabia: las personas necesitan saber si están hablando con una IA o si el contenido que están viendo se genera o no. La capacidad de modelar realmente… para predecir humanos, creo que requerirá una combinación de empresas que hagan lo correcto, regulación y educación pública».

El primer ministro, Rishi Sunak, dijo el jueves que el Reino Unido liderará la limitación de los peligros de la IA . Las preocupaciones sobre la tecnología se han disparado después de los avances en la IA generativa, donde herramientas como ChatGPT y Midjourney producen texto, imágenes e incluso voz convincentes.

Mientras que las oleadas anteriores de bots de propaganda dependían de simples mensajes preescritos enviados en masa, o edificios llenos de «trolls pagados» para realizar el trabajo manual de interactuar con otros humanos, ChatGPT y otras tecnologías aumentan la posibilidad de una interferencia electoral interactiva a gran escala.

Una IA entrenada para repetir puntos de conversación sobre Taiwán, el cambio climático o los derechos LGBT+ podría involucrar a los opositores políticos en argumentos infructuosos mientras convence a los espectadores, en miles de cuentas de redes sociales diferentes a la vez.

El profesor Michael Wooldridge, director de investigación de IA de la fundación en el Instituto Alan Turing del Reino Unido, dijo que la desinformación impulsada por IA era su principal preocupación sobre la tecnología.

Wooldridge dijo que los chatbots como ChatGPT podrían producir desinformación personalizada dirigida, por ejemplo, a un votante conservador en los condados de origen, un votante laborista en un área metropolitana o un partidario republicano en el medio oeste.

Después de que las imágenes falsas del arresto de Donald Trump en Nueva York se hicieran virales en marzo, poco antes de que las llamativas imágenes generadas por IA del Papa Francisco con una chaqueta acolchada de Balenciaga se extendieran aún más , otros expresaron su preocupación por el uso de imágenes generadas para confundir y desinformar. Pero, dijo Altman a los senadores estadounidenses, esas preocupaciones podrían ser exageradas.