Las grandes empresas tecnológicas que lideran el desarrollo de la inteligencia artificial (IA) firmarán esta semana un manifiesto en el que se comprometerán a combatir el uso de ‘deepfakes‘ para la manipulación política en un 2024 que será el mayor año electoral de la historia.
El acuerdo estará firmado por Google, Microsoft, Meta (Facebook), OpenAI, Adobe y TikTok. Sin embargo, estos gigantes no prohibirán los contenidos políticos engañosos generados con sus aplicaciones de IA, según una copia obtenida por The Washington Post. En su lugar, prometerán crear sistemas de identificación y alerta. Además, se «educará» a los usuarios para ayudarles a enfrentarse a los ‘deepfakes’. Para más inri, se tratará de un compromiso voluntario, así que no estarán obligadas a hacer lo que dicen que harán.
Los ‘deepfakes’ se sirven de la IA para generar imágenes y audios que puedan clonar de forma convincente la cara y la voz de sus víctimas, suplantando su identidad. Esta tecnología es cada vez más sofisticada, lo que dificulta determinar si aquello que vemos y escuchamos es real o una campaña de manipulación.
Riesgo electoral
Esa posibilidad supone un riesgo mayúsculo para la democracia. «La generación y distribución intencionadas y no divulgadas de contenidos electorales engañosos basados en IA pueden inducir al público a error y poner en peligro la integridad de los procesos electorales», se reconoce en el acuerdo.
Durante los próximos meses, más de la mitad de la población mundial está llamada a participar en más de 70 elecciones. Eso convierte 2024 en un año crítico. En los últimos días ya se han detectado ‘deepfakes’ que han suplantado la voz del presidente Joe Biden para tratar de engañar a los electores demócratas, pero también clonaciones de IA con fines propagandísticos, como la usada por Imran Khan, el encarcelado candidato a la presidencia de Pakistán.
Otras empresas podrían adherirse al manifiesto. Una de las principales ausencias es X, la red social anteriormente conocida como Twitter, controlada por el magnate Elon Musk. Se espera que los firmantes anuncien su acuerdo el viernes durante la Conferencia de Seguridad de Múnich.