Hubo un tiempo, no hace mucho, en que nuestra principal preocupación era Photoshop, cuando se trataba de manipulación digital y contenido falso. Esos días han quedado atrás. Hoy es mucho más difícil distinguir lo que es real, porque las últimas tecnologías permiten crear contenido que parece totalmente real, aunque no lo sea… deepfakes.

Esta palabra, que entró en el discurso público alrededor de 2017, es la unión de "deep learning" (relacionado con la inteligencia artificial) y "fake" (falso en inglés). En la actualidad ya abarca videos, audio e imágenes falsos hiperrealistas creados por inteligencia artificial. Y, a medida que avanza la IA generativa, las deepfakes se volverán cada vez más difíciles de detectar.

Los deepfakes vienen en varias formas diferentes. Una de ellas es la transformación de contenido existente donde una persona es reemplazada por otra. Cómo olvidar, por ejemplo, los supuestos videos de Tom Cruise en Tik Tok, haciendo cosas que el actor, en realidad, jamás realizó. Siempre fue una persona que se hacía pasar por él, usando deepfakes. Sin embargo, también es posible crear contenido completamente original. Por ejemplo, canciones “nuevas” de cantantes que han fallecido hace muchos años. La calidad de los deepfakes ha avanzado hasta el punto de tener el potencial de causar un gran daño en la sociedad.

En el contexto empresarial, la realidad no es diferente. Ya estamos viendo cómo se utiliza la tecnología para atacar y extorsionar a empleados y organizaciones bajo pretextos, así como a sectores empresariales. Hemos llegado a un punto en el que las personas ya no están seguras de con quién están comunicándose, ya sea una llamada de un supervisor, un mensaje de texto de un colega o una actualización de video.

Por ejemplo, Hong Kong Bank reportó una pérdida de $25 millones debido a una sofisticada estafa con deepfakes. Los estafadores recrearon digitalmente al director de tecnología de la empresa, junto con otros empleados, en una videoconferencia en la que instruyeron a sus colegas a transferir dinero, lo cual hicieron.

Lo más preocupante es que el escenario no mejorará. En Accenture ya hemos observado un aumento del 223% entre el primer trimestre de 2023 y el primer trimestre de 2024 en la compra y venta de herramientas deepfake en la dark web. Ha llegado al punto en que los ciberdelincuentes no dudan en gastar hasta $20,000 en contenido de alta calidad.

¿Cómo enfrentar este escenario tan desafiante? A través de tres acciones principales:

1. Liderazgo: Es necesario contar con una gobernanza preparada para enfrentar las deepfakes, que cuente con una estrategia clara de prevención y acción. Es fundamental establecer procedimientos de gestión de crisis y testear continuamente las políticas de respuesta.
2. Entrenamiento: Preparar a toda la organización. Realizar capacitaciones para que los colaboradores estén conscientes de la existencia de estas amenazas y entregarles herramientas para enfrentarlas. Estas capacitaciones deben incluir tests continuos. Por ejemplo, Accenture acaba de lanzar Ai-iD Kit, una plataforma digital para educar a las personas sobre las potenciales amenazas que representan las deepfakes y cómo enfrentar esta situación.
3. Tecnología: Es clave probar sistemáticamente los sistemas de IA para identificar puntos débiles, incluyendo la creación de contenidos falsos. En este sentido, las empresas tienen hoy un gran desafío en torno al desarrollo de políticas que impulsen el uso responsable de la inteligencia artificial.

Invertir en medidas proactivas de ciberseguridad no solo es una decisión estratégica, sino también una medida rentable. La carga financiera asociada con la reconstrucción de la reputación de una organización y la recuperación de la confianza de los clientes después de un ataque con deepfakes supera significativamente los gastos de implementar protocolos de ciberseguridad robustos con antelación.

El desafío que enfrentamos en el mundo de los negocios es importante al considerar que, de acuerdo con un estudio reciente de Accenture, solo 27% de los ejecutivos tiene plena confianza en que los programas de capacitación y actualización de habilidades de sus organizaciones puedan mantenerse al ritmo del avance tecnológico. Además, solo tres de cada diez ejecutivos consideran la ciberseguridad como la prioridad más importante en sus organizaciones, y los deepfakes ocupan el último lugar entre todas las amenazas de ciberseguridad en términos de preocupación general.

Los días de un Photoshop amenazante han quedado atrás. Por eso, las empresas deben comenzar hoy a reconocer el riesgo real que representan los deepfakes e impulsar una estrategia acorde.

(*) Federico Tandeter: Director de Ciberseguridad para Sudamérica Hispana en Accenture