Las tecnologías de IA, con su capacidad para generar textos, imágenes, audio y vídeos falsos que parecen reales (los llamados «deepfakes»), hacen más difícil distinguir los contenidos auténticos de las creaciones sintéticas. Esta capacidad permite a los agentes maliciosos automatizar y multiplicar campañas de desinformación, aumentando enormemente su alcance e impacto.
Sin embargo, la IA no es un villano en esta historia. La tecnología también desempeña un papel crucial en el combate contra la desinformación. Los sistemas avanzados de IA pueden analizar patrones, uso del lenguaje y contexto para ayudar en la moderación de contenidos, comprobar si las noticias son falsas y detectar información errónea y desinformación.
Comprender los matices entre la difusión involuntaria de información errónea y la desinformación deliberada es crucial para tomar contramedidas eficaces- y eso también puede facilitarse mediante el análisis de contenidos con IA.
El costo social de la desinformación
Las consecuencias de la desinformación incontrolada impulsada por la IA son profundas y pueden erosionar el tejido mismo de la sociedad.
El Informe sobre Riesgos Globales 2024 del Foro Económico Mundial señala la difusión de información errónea y la desinformación como graves amenazas en los próximos años, destacando el posible aumento de la propaganda y la censura nacionales.
El uso político malintencionado de la IA plantea graves riesgos, pues la rápida propagación de deepfakes y contenidos generados por IA dificulta cada vez más a los votantes discernir la información factual de la falsa. Eso puede influir en el comportamiento de los votantes y socavar el proceso democrático, influenciando elecciones, erosionando la confianza pública en las instituciones, generando malestar social e incluso incentivando la violencia.
Estos son los mayores riesgos globales a los que nos enfrentamos en 2024 – y en el futuro
Grupos demográficos específicos también pueden ser objetivo de campañas de desinformación con contenidos nocivos generados por IA. La desinformación sexista, por ejemplo, perpetúa los estereotipos y la misoginia, marginando aún más a los grupos vulnerables.
Estas campañas manipulan la percepción pública, lo que provoca un daño social generalizado y profundiza las divisiones sociales existentes.
Una estrategia multidimensional contra los contenidos fake
El rápido desarrollo de las tecnologías de IA muchas veces supera la capacidad de supervisión de los gobiernos, lo que puede provocar daños sociales si no se gestiona con cuidado.
Para mitigar aún más los riesgos asociados a la IA, los desarrolladores y las organizaciones deben aplicar salvaguardias sólidas, medidas de transparencia y marcos de rendición de cuentas.
Mediante el establecimiento de sistemas integrales, los desarrolladores pueden garantizar que la IA se despliegue de forma ética y responsable, fomentando así la confianza y promoviendo el uso beneficioso de la IA en diversos ámbitos.
Además de medidas técnicas, proveer educación pública sobre alfabetización mediática y pensamiento crítico es esencial para empoderar a las personas para navegar por el complejo panorama de la información digital.
Las escuelas, bibliotecas y organizaciones comunitarias desempeñan un papel vital en la promoción de estas habilidades, proporcionando recursos y programas de formación para ayudar a los individuos a desarrollar la capacidad de evaluar críticamente las fuentes de información, diferenciar entre desinformación y contenido factual y tomar decisiones con conocimiento de causa.
La colaboración es clave para combatir la desinformación
Además, la colaboración entre partes interesadas, como responsables políticos, empresas tecnológicas, academia y organizaciones de la sociedad civil, es vital para abordar con eficacia los múltiples retos que plantean la difusión de información errónea y desinformación potenciadas por la IA.
Esta situación pone de relieve la importancia de fomentar el entendimiento y la cooperación a nivel global para hacer frente a la difusión de información falsa facilitada por el auge de los contenidos producidos por humanos y las tecnologías de IA.
Otra iniciativa del Foro es la Coalición Mundial para la Seguridad Digital, que encabeza los esfuerzos para combatir la desinformación promoviendo un enfoque de toda la sociedad para mejorar la alfabetización mediática. Esto incluye comprender cómo se produce, distribuye y consume la información falsa, e identificar las habilidades necesarias en cada etapa para contrarrestarla.
Avanzar en nuestro enfoque de la seguridad digital
A medida que la IA sigue transformando nuestro mundo, es imperativo avanzar en nuestro enfoque de la seguridad digital y la integridad de la información.
A través de una mejor colaboración, la innovación y la regulación, podemos aprovechar los beneficios de la IA y, al mismo tiempo, protegernos de sus riesgos, garantizando un futuro en el que la tecnología eleve la confianza pública y los valores democráticos en lugar de socavarlos.
Trabajando juntos, podemos garantizar que la IA sirva como herramienta para promover la verdad y el progreso, no para manipular y dividir.
