En el último año, la creación de contenido mediante el uso de Inteligencia Artificial (IA) y Deepfakes ha avanzado considerablemente. Ya no se limita solo a imágenes y videos modificados, sino que ahora incluye una tecnología más sofisticada enfocada también en la falsificación de voces, conocida como deepvoice. El deepfake es una técnica de manipulación que utiliza IA para crear imágenes, videos o audios falsos que parecen reales. Estos se generan al replicar la imagen, voz y expresiones faciales de una persona a partir de datos existentes.
Los deepfakes pueden ser utilizados con fines creativos, como en películas, cortometrajes, simulaciones, entre otros. Sin embargo, también pueden tener un impacto negativo, ya que se emplean para difundir información errónea, crear noticias falsas o dañar la reputación de individuos, aprovechando el gran potencial que tienen para generar escenarios fabricados. Esta tecnología plantea desafíos éticos y legales importantes, ya que resulta cada vez más difícil distinguir entre lo real y lo falso.
Peligros en la suplantación de
identidad de figuras públicas
Desinformación: Los deepfakes pueden crear videos falsos de políticos o celebridades diciendo cosas que nunca expresaron, manipulando así la opinión pública.
Daños personales: La creación de contenido falso puede dañar la reputación de individuos, afectando su carrera y vida personal, especialmente cuando se difunden afirmaciones comprometedoras.
Pérdida de confianza: La propagación de deepfakes puede reducir la confianza en los medios de comunicación, ya que las personas se vuelven más escépticas respecto a lo que es real.
Extorsión: La tecnología puede ser utilizada para crear contenido que se emplea para extorsionar o acosar a personas, lo que genera preocupaciones sobre la seguridad personal.
Problemas legales: La falta de legislación clara sobre el uso de deepfakes complica la identificación de responsables y la aplicación de la justicia.
Impacto de la IA y los deepfakes
en las campañas presidenciales
La desinformación es uno de los principales problemas generados por esta tecnología, ya que a través de los deepfakes se pueden crear videos falsos de candidatos haciendo o diciendo cosas que nunca ocurrieron, manipulando así la percepción del electorado y difundiendo información engañosa. Además, esta tecnología puede generar más polarización, exacerbando las divisiones políticas y sociales.
Otro aspecto importante es la manipulación de la opinión pública. Mediante la creación de contenido viral y engañoso, los deepfakes pueden influir en la opinión de los votantes en momentos clave, desviando la atención hacia escándalos fabricados y haciendo que se concentren en videos falsos en lugar de en políticas y propuestas reales.
Esto también puede llevar a una pérdida de confianza en los medios de comunicación y en los discursos políticos, ya que las personas comienzan a dudar de la veracidad de la información.
Dado el gran impacto potencial de los deepfakes, es fundamental que se desarrollen estrategias de detección y regulación para mitigar los efectos negativos de estas tecnologías.
¿Por qué, en algunos casos,
es imperceptible la IA?
Avances tecnológicos: Los algoritmos de aprendizaje profundo han mejorado considerablemente, lo que permite crear imágenes y videos de alta calidad que son difíciles de distinguir de los originales.
Gran cantidad de datos: Estos modelos son entrenados con enormes volúmenes de datos, lo que les permite capturar detalles en las expresiones faciales, el tono de voz y otros elementos que hacen la simulación más realista.
Mejoramiento constante de los deepfakes: Los creadores ajustan y refinan los programas, empleando técnicas que mejoran la calidad y reducen los errores visuales y de audio.
Falta de atención al contenido: En las redes sociales, las personas no suelen prestar suficiente atención a los detalles, lo que facilita que pasen desapercibidos.
Imitación precisa: Los deepfakes pueden replicar patrones de comportamiento y expresiones de manera tan exacta que las personas no cuestionan la autenticidad del contenido.
Ejemplo
Video de @thedorbrothers en X
En redes sociales se viralizó un video publicado por la cuenta @thedorbrothers en X, donde, utilizando el chatbot de IA Grok, se creó un video en el que figuras públicas como Mark Zuckerberg, Elon Musk, Vladimir Putin, Joe Biden, Donald Trump, Kamala Harris, Barack Obama y el Papa Francisco aparecían usando distintos tipos de armas en una especie de robo a una tienda.
Aunque la cuenta lo publicó con la intención de entretener al público, dado que sería imposible ver a estas personalidades cometiendo estos actos en la realidad, el video invita a reflexionar sobre los alcances de la tecnología para crear algo tan realista.
La regulación de la inteligencia artificial y los deepfakes es una tarea compleja pero necesaria. Si bien ofrecen oportunidades innovadoras, su potencial para causar daño es muy grande. Por lo que sería necesaria una intervención a mayor escala internacional para que se regule su uso y que en el futuro este tipo de herramientas se utilicen responsable y éticamente, protegiendo así la integridad y veracidad de la información que se difunda.
Referencias
Prosser R. (2024). Dailymail. Elon Musk is turned into an armed robber using his own AI system Grok in deepfake video - with the same treatment given to Kamala Harris, Donald Trump, Barack Obama, President Biden and Putin. Recuperado de https://www.dailymail.co.uk/news/article-13772095/Elon-Musk-armed-robber-AI-Grok-deepfake-video-Harris-Trump-Obama-Biden-Putin.html
Rodríguez K. J. y Soto T. (2024). El financiero. Inteligencia Artificial: arma de doble filo en las campañas. Recuperado de https://www.elfinanciero.com.mx/bloomberg-businessweek/2024/03/21/inteligencia-artificial-arma-de-doble-filo-en-las-campanas/
The Dor Brothers [@thedorbrothers]. (2024). X. Recuperado de https://x.com/thedorbrothers/status/1826314820972425417
Comentários