Casi dos terceras partes de las organizaciones mexicanas están dispuestas a asumir más riesgos cibernéticos que hace 12 meses con tal de aprovechar los beneficios de la inteligencia artificial, en comparación con el 56% a nivel global, reveló un nuevo estudio de Illumio Inc., empresa especializada en contención de brechas.
El estudio global “Autorizados para actuar: cómo la autonomía de la IA supera los límites impuestos”, realizado por Sapio Research para Illumio, consultó a 1,100 líderes en toma de decisiones de TI y ciberseguridad en diez mercados, incluido México. La investigación revela que, a medida que la IA adquiere mayor autoridad para tomar decisiones y actuar de forma autónoma, las organizaciones enfrentan nuevos desafíos en materia de supervisión y control.
Desafíos de Control
En México, el 65% de las organizaciones actualmente delega a la IA decisiones que hace un año requerían aprobación humana. Conforme las empresas conceden mayor autonomía a la IA, mantener la visibilidad y el control sobre aquello a lo que puede acceder y ejecutar se vuelve cada vez más crucial.
Foto especial: www.illumio.com
El riesgo no es puramente teórico. El 68% de las organizaciones mexicanas experimentó al menos un incidente de seguridad o señal de advertencia vinculada a la IA en los últimos doce meses. Esto incluye a un 35% que afirma que la IA realizó una recomendación que habría generado un riesgo de seguridad de haberse seguido; un 23% donde la IA produjo o desencadenó una acción no autorizada, y un 22% en el que un agente o herramienta de IA se conectó a los sistemas sin una aprobación de seguridad.
Medidas de Protección
Los hallazgos también sugieren que los mecanismos de protección y control no siempre han ido al mismo ritmo que la adopción tecnológica. El 59% de los encuestados en México afirma que su organización implementó herramientas de IA antes de establecer los controles y salvaguardas de seguridad necesarios.
Sin embargo, las organizaciones mexicanas reconocen la importancia de acotar el alcance de la IA. Más de la mitad señaló que bloquear solamente los comportamientos maliciosos que son conocidos ya no es suficiente como estrategia de seguridad, y el 52% considera que limitar a qué puede acceder la IA es más importante que intentar predecir cada potencial amenaza. No obstante, esta cifra se sitúa 17 puntos porcentuales por debajo del promedio global, lo que sugiere que este enfoque aún no está tan consolidado en México como en el resto del mundo.
Estrategias y Futuro
Las organizaciones en México están aprovechando las oportunidades que ofrece la Inteligencia Artificial y muestran una mayor disposición a asumir riesgos de lo que observamos a nivel global. Sin embargo, a medida que la IA adquiere más autonomía y capacidad de decisión, las estrategias de seguridad deben de evolucionar al mismo ritmo, señaló Raghu Nandakumara, vicepresidente de Estrategia de Industria en Illumio.
En México ya existe una mayor conciencia sobre la importancia de limitar el acceso de la IA a información y sistemas críticos, pero este enfoque aún no está tan extendido como en otros mercados. El siguiente paso es convertir esa conciencia en controles claros y aplicables que definan qué puede ver, utilizar y hacer la IA, de modo que se puedan contener comportamientos inesperados antes de generar un impacto real en el negocio.
