A lo largo de mi trayectoria en la industria financiera, he tenido la oportunidad de observar cómo la inteligencia artificial (IA) está transformando no solo el ámbito financiero, sino prácticamente todos los sectores. Sin embargo, con el poder de la IA también vienen riesgos y desafíos significativos, especialmente cuando hablamos de ciberseguridad. Hoy quiero hablar sobre cómo podemos manejar estos riesgos en el contexto de América Latina, una región que se enfrenta a la necesidad urgente de aprovechar la IA para el desarrollo, pero sin perder de vista la seguridad y la ética.
La Seguridad de la IA: Más que un Requisito, una Necesidad Urgente
La IA tiene un potencial transformador, desde optimizar el diagnóstico médico hasta automatizar procesos en la manufactura y la banca. Pero, ¿qué sucede cuando estas poderosas herramientas son objeto de ataques cibernéticos? En América Latina, donde los avances tecnológicos a menudo son implementados sin una planificación robusta de ciberseguridad, es esencial plantearse cómo mitigar los riesgos que la IA trae consigo.
Los ataques a los sistemas de IA se dividen en dos categorías principales: los ataques contra la IA y los ataques potenciados por la propia IA. No solo debemos preocuparnos de proteger los modelos de IA contra actores maliciosos, sino también de los usos indebidos que terceros puedan hacer de estas herramientas para ejecutar ciberataques más sofisticados.
En un contexto latinoamericano, donde la infraestructura tecnológica todavía está en proceso de consolidación, es imperativo entender que la IA necesita estar acompañada de fuertes políticas de seguridad. La región ya ha enfrentado casos de ataques a infraestructuras críticas, como el ataque de ransomware al sistema de salud en Argentina en 2020, que afectó hospitales y clínicas. La introducción de la IA, sin medidas adecuadas, solo puede complicar más esta situación.
Los Retos Específicos: Riesgos de Seguridad en Modelos y Datos
Uno de los riesgos más preocupantes es el envenenamiento de datos («data poisoning»), donde atacantes manipulan los datos de entrenamiento de los modelos de IA para influir en sus decisiones. Imaginemos un escenario donde se manipulen los datos de un sistema financiero para que un modelo de prevención de fraudes deje de reconocer ciertas transacciones maliciosas: los resultados serían catastróficos, especialmente en economías emergentes que ya lidian con altos índices de fraudes y corrupción.
Un ejemplo de esto se vio en Estados Unidos, donde un grupo de investigadores logró introducir datos sesgados en el entrenamiento de un modelo de reconocimiento facial, lo que llevó a un aumento en los errores de identificación para ciertos grupos étnicos. En América Latina, donde existen desigualdades significativas, un ataque de este tipo podría perpetuar discriminaciones ya existentes y tener graves implicaciones sociales.
Otro riesgo es el robo de modelos. En un entorno en el que cada vez más empresas adoptan la IA para tareas críticas, la posibilidad de que un atacante pueda replicar o robar un modelo mediante ataques de extracción representa una amenaza directa tanto para la propiedad intelectual como para la seguridad de los datos de los usuarios. En América Latina, donde los recursos para desarrollar tecnologías suelen ser limitados, perder una ventaja competitiva por este tipo de ataques puede tener un impacto significativo en el desarrollo tecnológico de la región.
Colaboración y Normativas Internacionales: Un Camino Ineludible
Una de las recomendaciones más importantes es la necesidad de alinear las normativas locales con los estándares internacionales de ciberseguridad para la IA. América Latina no puede quedarse atrás. Mientras que en Asia Pacífico ya se están adoptando marcos reguladores y estándares internacionales, en nuestra región debemos empezar a pensar en la creación de regulaciones específicas que incluyan medidas de ciberseguridad para la IA desde la concepción de cualquier proyecto.
Por ejemplo, Singapur ha implementado un marco nacional de ciberseguridad para IA que incluye auditorías regulares y la obligación de mantener registros de decisiones tomadas por sistemas automatizados. En América Latina, Brasil está liderando con su Ley General de Protección de Datos (LGPD), que si bien no está centrada en IA, establece una base sólida para la protección de datos personales y podría ser un paso inicial hacia una normativa específica para IA.
Los países de la región deben buscar no solo adoptar marcos normativos internacionales, sino también adaptarlos para que aborden nuestras particularidades, como la diversidad de capacidades tecnológicas entre los países y la falta de una infraestructura de ciberseguridad consolidada. Además, la colaboración entre el sector público y privado es fundamental para crear una respuesta coordinada frente a las amenazas cibernéticas.
La Ciberseguridad Como Pilar de la Innovación
Es fundamental que los desarrollos en IA en la región sean acompañados por un enfoque de «seguridad desde el diseño». Esto significa que desde el momento en que se empieza a trabajar en un modelo de IA, la ciberseguridad debe ser parte integral del proceso. A menudo, he observado que la ciberseguridad se considera como una adición tardía en el desarrollo de productos tecnológicos, pero en un entorno de IA, esto simplemente no es suficiente.
No podemos hablar de transformación digital sin ciberseguridad. Los ataques a la infraestructura de IA pueden tener consecuencias devastadoras, y los países de América Latina no pueden permitirse perder el terreno ganado en términos de adopción de nuevas tecnologías por la falta de previsión en la gestión de riesgos cibernéticos.
Un ejemplo concreto es el desarrollo de soluciones de banca digital en México, donde varias fintechs han integrado sistemas de ciberseguridad desde el inicio, utilizando tecnologías como el cifrado avanzado y la autenticación multifactor. Estas medidas han permitido a las fintechs generar confianza entre los usuarios, un aspecto clave en un país donde la desconfianza hacia las instituciones financieras es común.
Reflexión Final
La integración de la IA en nuestra región ofrece oportunidades que no podemos desaprovechar. Pero estas oportunidades vienen con grandes responsabilidades. Tenemos que ser líderes en innovación, pero sin sacrificar la seguridad de nuestros sistemas y los datos de nuestros usuarios. En América Latina, la ciberseguridad debe ser el pilar sobre el que se construya cualquier desarrollo basado en IA. Podemos adoptar la tecnología con los ojos bien abiertos, sabiendo que cada avance debe ser respaldado por medidas que aseguren su uso ético y seguro.
Si estás interesado en explorar cómo tu organización puede implementar IA de manera segura y efectiva, trabajando juntos podemos diseñar estrategias que garanticen que la innovación esté siempre acompañada de robustas prácticas de ciberseguridad.
Diego San Esteban – linkedin
Fuente: AI and Cybersecurity 2024