La IA ya ha demostrado su capacidad para impactar la percepción pública
Por Reyes Gamez
Monterrey, México, Agencia de Noticias 3er Sector.- Falta menos de un mes para las elecciones presidenciales de Estados Unidos, las campañas electorales del vecino del norte son ampliamente influenciadas por los contenidos creados por la Inteligencia Artificial, los deepfakes (video, imagen o audio generado por inteligencia artificial (IA) que imita la apariencia y el sonido de una persona) están marcando tendencia.
La dimensión del problema no es menor: de acuerdo con el U.S. Census Bureau, la población total de EU es de poco más de 337 millones de habitantes, y las proyecciones indican que aproximadamente 244 millones estarán habilitados para votar, aunque se espera que la cifra efectiva de votantes sea de 162 millones de personas.
La IA ya ha demostrado su capacidad para impactar la percepción pública mediante la creación de noticias falsas y deepfakes. Esto plantea serios desafíos para la seguridad electoral. Como señala Israel Gutiérrez, Country Manager de A3Sec, firma internacional especializada en ciberseguridad, “la IA, además de potenciar la generación de desinformación a gran escala, facilita la creación de contenidos falsos con una velocidad y alcance sin precedentes, lo que podría impactar gravemente en la confianza del electorado”.
Uno de los mayores peligros de la IA consiste en el uso malintencionado que las personas hacen de ella, lo que deriva, por ejemplo, en explotar su capacidad para generar deepfakes: videos, imágenes y audios que imitan a personas reales para engañar al público con información falsa. Estos “ultrafalsos” pueden distorsionar el diálogo político al crear momentos virales sobre situaciones, posicionamientos y declaraciones que nunca ocurrieron.
Un claro ejemplo fue el video falso de Joe Biden imponiendo el servicio militar obligatorio, lo que generó un gran revuelo en redes sociales antes de ser desmentido. Esta desinformación se convierte en una herramienta poderosa para influir en la opinión pública, sobre todo entre audiencias vulnerables con escasa experiencia digital y poca comprensión de los procesos electorales.
Otros casos fueron, por un lado, un video falso del presidente de Ucrania, Volodimir Zelenski, que lo mostraba rindiéndose ante Rusia. Aunque el video fue rápidamente desacreditado, su impacto inicial evidenció el potencial de los deepfakes para distorsionar la realidad política. Por otro lado, en el contexto estadounidense, otro deepfake que circuló ampliamente fue uno que mostraba a la senadora Elizabeth Warren sugiriendo que se prohibiera votar a los republicanos en 2024.
El impacto va más allá de la mera desinformación, ya que puede también incitar a la violencia y la polarización política. Tal como afirma Gutiérrez, “el poder de la IA para crear deepfakes realistas representa una seria amenaza y es todo un reto identificarlas, ya que puede desencadenar desconfianza en las instituciones democráticas, especialmente en un ambiente político polarizado como el de Estados Unidos”. Esta tecnología, si no se regula o se crean los métodos de control de forma adecuada, podría erosionar la confianza en el proceso electoral y, en última instancia, en la democracia misma.
Aunque la IA representa una seria amenaza para la seguridad electoral, también ofrece herramientas poderosas para defenderla. Los sistemas basados en esta tecnología pueden ayudar a detectar patrones inusuales en la generación de imágenes, video, en el tráfico de red, identificar correos electrónicos de phishing y bloquear intentos de suplantación de identidad. No obstante, como advierte Gutiérrez, “para que estas herramientas sean efectivas, es crucial que las autoridades electorales tengan acceso a ellas y estén capacitadas para utilizarlas. De lo contrario, estarán en desventaja frente a ciberdelincuentes que emplean IA para atacar los sistemas”.
El phishing es una de las principales preocupaciones en este sentido. La IA permite generar correos electrónicos maliciosos de manera masiva, eliminando la necesidad de contar con grandes equipos humanos. Esto significa que los ataques de phishing a las autoridades electorales y los proveedores de sistemas podrían aumentar significativamente en los próximos meses. Por ejemplo, los atacantes podrán suplantar a funcionarios electorales con gran facilidad, aprovechando la capacidad para generar sitios web falsos, videos y audios que imiten a personas reales.
En respuesta a estos riesgos, algunas entidades de Estados Unidos ya han comenzado a legislar sobre el uso de IA en las elecciones. Texas, por ejemplo, introdujo una ley en 2019 que prohíbe la publicación de deepfakes de candidatos en los 30 días previos a una elección. Minnesota, por su parte, ha adoptado medidas similares, exigiendo que se aclare cuando una imagen ha sido manipulada y que se obtenga el consentimiento de las personas retratadas.
No obstante, la regulación por sí sola no es suficiente. Las herramientas de IA avanzan a un ritmo tan rápido que es difícil para las legislaciones estatales y federales mantenerse al día. A nivel internacional, la Organización de las Naciones Unidas (ONU) ha hecho un llamado a la creación de un marco regulador global para la IA, centrado en la colaboración y la protección de los derechos humanos. Este enfoque integral es de suma importancia, ya que la amenaza en las elecciones no se limita a Estados Unidos; otros países también están lidiando con los efectos de la desinformación generada por esta tecnología.
La IA es un riesgo latente en la preparación y desarrollo de los procesos electorales, y sus implicaciones para la democracia son profundas. Desde la creación de deepfakes hasta la manipulación masiva de la opinión pública, las herramientas impulsadas por IA, detrás de las cuales operan personas con intenciones maliciosas, presentan amenazas sin precedentes para la integridad de los procesos electorales.
Sin embargo, como señala Israel Gutiérrez, “la clave está en aprovechar las mismas herramientas para fortalecer la ciberseguridad y garantizar que los votantes puedan confiar en la información que reciben”. La batalla entre quienes usan la IA para subvertir la democracia y aquellos que buscan protegerla apenas está comenzando, y su desenlace dependerá de la capacidad de los gobiernos y las instituciones para responder eficazmente a esta nueva realidad.
