¿Han compartido sus fotos en una aplicación que crea imágenes con Inteligencia Artificial? Es divertido ver cómo nos veríamos en otros contextos, o con más o menos edad, entre otras graciosas variedades. Todo es diversión con la IA hasta que llegan las deepfakes, piezas alteradas con esta tecnología con un propósito negativo como los fraudes.
Hace algunas semanas platicamos en esta columna sobre cómo hemos visto casos de crisis derivados de suplantación de identidades y la proliferación de imágenes falsas. Un ejemplo fue el caso de las escandalosas supuestas fotos de Taylor Swift.
En esta ocasión un reporte de la plataforma de verificaciones de seguridad Sumsub alerta sobre el crecimiento del fraude impulsado por la IA a través de las deepfakes. ¿Cuáles son los países que más se han visto afectados y los tipos más comunes de fraude? Les cuento a continuación.
Crecimiento mundial de deepfakes
De acuerdo con el reporte de Sumsub, el mundo en general ha experimentado un crecimiento en este tipo de fraudes, países como Filipinas, Vietnam, Estados Unidos y Bélgica se encuentran a la cabeza de estas cifras. Aquí les comparto esta imagen realizada por Statista, basada en el estudio.
¿Qué está sucediendo en América Latina? México experimentó un aumento significativo en el fraude de identidad entre 2021 y 2023, casi el triple del 0,48% al 1,27%. Colombia experimentó una tendencia similar, pasando del 0,79% en 2021 al 1,12% en 2023.
Respecto a las deepfakes el número más alto lo tiene Brasil que reporta casi la mitad de los casos de toda la región, seguidos por Argentina, Colombia y México que en conjunto combinan cerca del 40% de los casos. En comparación por crecimiento, Brasil continúa a la cabeza, seguido de Argentina y México, como lo muestra este cuadro en el estudio.
Expertos en IA contra las deepfakes
En ocasiones pareciera que el tema de la Inteligencia Artificial nos rebasa. Las legislaciones en los países han dado pocos pasos en el tema para regular este tipo de tecnologías y su uso malicioso.
Hace algunas semanas un grupo de expertos en IA firmaron una carta donde definen a las deepfakes como “voces, imágenes o videos generados por IA no consensuados o extremadamente engañosos, que una persona razonable confundiría con reales”.
La declaración conjunta especifica que los deepfakes son una amenaza creciente para la sociedad y los gobiernos deben imponer obligaciones en toda la cadena de suministro para detener su proliferación.
Los expertos enlistan tres acciones que deberían ser legisladas para evitarlo:
-
- Penalizar por completo la pornografía infantil deepfake, incluso cuando solo se representen niños ficticios.
-
- Establecer sanciones penales para cualquiera que, a sabiendas, cree o facilite deliberadamente la difusión de deepfakes dañinos; y
-
- Exigir a los desarrolladores y distribuidores de software que impidan que sus productos audiovisuales creen deepfakes dañinos y que sean considerados responsables si sus medidas preventivas se eluden con demasiada facilidad.
Acciones personales contra las deepfakes
¿Qué estamos haciendo en el plano personal para combatir las deepfakes? Si las generamos o las compartimos somos parte del problema. Por otra parte, en nuestra labor en el mundo del marketing y la comunicación, su uso puede representar un engaño lo cual legal y éticamente tiene consecuencias.
Algunas empresas comienzan a poner directrices internas respecto al uso de esta tecnología, en qué casos se permite y cómo aplicarla, apoyada de políticas de compliance. Lo adecuado es que cada una de acuerdo a sus necesidades comience a estipular estas normas para evitar que el deepfake se apodere del mundo corporativo.
¿Qué les parece lo que está sucediendo en el mundo con la IA y las deepfakes? Sigamos en contacto en redes, me encuentras en X como @RobertoBaez. Nos leemos en la que sigue.
