DE LOS “DEEPFAKES”

JOSE CARLOS GUERRA AGUILERA

1.- El 1 de junio de este 2023, Guillermo A. Tenorio en El Economista, verificó un interesantísimo ensayo periodístico de un tema muy poco conocido que nos inunda y que no conocemos. Lo reproduzco:

“En su libro Deep Fakes and the Infocalypse: What You Urgently Need to Know, Nina Schick explora los peligros y las implicaciones de los llamados deepfakes en la sociedad, abordando temas como la desinformación, la manipulación política y el futuro de la realidad digital. Estoy seguro, querido lector, lo lejano de nuestras vidas que parece un concepto como el referido, sin embargo, está más cercano de lo que creemos. Imágenes como la del Papa Francisco vistiendo ropas extravagantes, la imagen de la detención del Presidente Trump o la reciente imagen del ataque al pentágono, son sólo unos ejemplos de lo cotidiano que se están volviendo las deepfakes o como se le llama en nuestro idioma “falsedades profundas”. En la era digital actual, la tecnología avanza a pasos agigantados, y junto con ella surgen nuevas herramientas y aplicaciones que pueden tener tanto un impacto positivo como negativo en nuestras vidas. Uno de los desarrollos más llamativos y preocupantes es el fenómeno conocido como deepfakes. Ellas son videos, imágenes o audios generados mediante algoritmos de aprendizaje automático, que permiten la manipulación y creación de contenido multimedia falso, pero altamente realista. Estas creaciones engañosas pueden plantear serias amenazas a la privacidad, la confianza y la estabilidad social.

¿Cómo surgen? Las deepfakes se originaron como una técnica para el entretenimiento y la diversión, permitiendo a los usuarios intercambiar caras en videos o imitar la apariencia de personas famosas en diferentes situaciones. Sin embargo, la preocupación surgió rápidamente debido al potencial abuso de esta tecnología. Las deepfakes han sido utilizados para difamar a personas, crear noticias falsas y hasta para generar pornografía no consensuada con imágenes de personas reales. Estos usos irresponsables pueden tener consecuencias devastadoras para las víctimas, ya que pueden ser objeto de chantaje, humillación pública o incluso daño a su reputación y carrera profesional, así lo refiere Eva Marie Kerschbaumer en su sensacional libro The Deepfake Book: A Very Unstable Element donde analiza las implicaciones éticas y legales de los deepfakes en diferentes áreas, como el periodismo, la política y el entretenimiento.

Y es ahí justo donde tendríamos que poner una alerta social, pues, la proliferación de las deepfakes plantea serias preocupaciones éticas y legales. A medida que la tecnología avanza, se vuelve cada vez más difícil distinguir entre lo real y lo falso. Esto puede llevar a una erosión de la confianza en los medios de comunicación y socavar la credibilidad de información importante. Además, las deepfakes pueden ser utilizadas para manipular elecciones, difundir propaganda política o incitar a la violencia, generando desestabilización social. Considere, querido lector, un proceso electoral donde la proliferación de imágenes y videos falsos sean tan reales que el electorado no pueda distinguir entre la realidad de la mentira, o llévelo a una arena más personal donde un video falso de usted sea producido con la finalidad de extorsionarle.

El combate contra las deepfakes plantea desafíos significativos. Aunque existen técnicas de detección y verificación de los mismos, los avances en la generación de contenido falso también dificultan su detección. Además, las deepfakes se propagan rápidamente a través de las redes sociales y plataformas en línea, lo que dificulta su control y eliminación. Las empresas tecnológicas, los gobiernos y la sociedad en su conjunto deben colaborar para desarrollar soluciones efectivas que puedan frenar la difusión y el impacto de las deepfakes.

La educación y la conciencia pública también juegan un papel crucial en la lucha contra ellos. Es importante que las personas sean conscientes de la existencia de esta tecnología y de sus posibles riesgos. Los usuarios deben aprender a ser críticos con la información que consumen y comparten, verificando la fuente y la autenticidad del contenido antes de creer en su veracidad. Las escuelas y los medios de comunicación tienen la responsabilidad de educar a las personas sobre los peligros de las deepfakes y cómo identificarlas.

En el ámbito regulatorio, a principios de este año China emitió una regulación contra ellos. Otros países han comenzado a abordar la cuestión de las deepfakes buscando proteger a las personas y desalentar el mal uso de esta tecnología. Sin embargo, una posible regulación de ello abre la puerta para que, en un clima donde han proliferado los gobiernos populistas, se busque limitar la libertad de expresión so pretexto de una posible regulación.

Además de los esfuerzos legales y educativos, es fundamental fomentar e impulsar desde la industria, la investigación y el desarrollo de herramientas de detección y verificación de deepfakes más avanzadas. La inteligencia artificial y el aprendizaje automático también pueden desempeñar un papel importante en la detección temprana y la mitigación de los efectos negativos de aquellos. Las empresas tecnológicas deben invertir en soluciones innovadoras y colaborar con expertos en seguridad y ética para abordar este desafío y desde luego generar las condiciones de una adecuada coordinación co-regulatoria con el Estado donde se priorice el enfoque de derechos humanos

Estimado lector, las deepfakes representan una de las más grandes amenazas para nuestro sistema democrático, una amenaza creciente para la privacidad, para la confianza y para la estabilidad social. Su capacidad para generar contenido falso altamente realista plantea desafíos significativos en diversos ámbitos, desde la difamación y el chantaje hasta la manipulación política. Es tarea no sólo del gobierno, sino de la industria y desde luego de la sociedad combatirlas. Solo a través de un esfuerzo conjunto podemos enfrentar esta amenaza y preservar la autenticidad y la confianza en el mundo digital.”

2.- Me parece altamente preocupantes estas aseveraciones:

Estas creaciones engañosas pueden plantear serias amenazas a la privacidad, la confianza y la estabilidad social.

Las deepfakes han sido utilizados para difamar a personas, crear noticias falsas y hasta para generar pornografía no consensuada con imágenes de personas reales.

A medida que la tecnología avanza, se vuelve cada vez más difícil distinguir entre lo real y lo falso.

Además, las deepfakes se propagan rápidamente a través de las redes sociales y plataformas en línea, lo que dificulta su control y eliminación.

Los usuarios deben aprender a ser críticos con la información que consumen y comparten, verificando la fuente y la autenticidad del contenido antes de creer en su veracidad.

Estimado lector, las deepfakes representan una de las más grandes amenazas para nuestro sistema democrático, una amenaza creciente para la privacidad, para la confianza y para la estabilidad social.

3.- Es obvio que vivir en un mundo de falsedades, de difamaciones, acrítico, de distorsiones, en donde se ha rebasado a la autoridad, nos provoca una desconfianza mutua en lo que Jose Alfredo llamaría vivir en un mundo raro y ese es éste.

4.- Hace año Giovanni Sartori refirió un libro en donde se habla de la sociedad manipulada, de una sociedad teledirigida. Hace poco Zygmunnt Bauman indicó que estamos en una modernidad liquida.

5.- Mucho hay de verdad en todo esto cuando se derrumba la verdad, cuando hay muchos disfraces en una sociedad conformista, que ahora ni siquiera salió a votar.