La inteligencia artificial está dejando de ser únicamente una herramienta de apoyo para convertirse en un participante relevante en la toma de decisiones empresariales a escala global. A principios de 2026, los directores ejecutivos estimaban que esta tecnología ya intervenía en el 25% de las operaciones y esperaban que dicha proporción alcance el 48% hacia 2030, de acuerdo con un estudio del IBM Institute for Business Value.
Este avance trasciende los departamentos tecnológicos para instalarse en los consejos de administración, abriendo el debate sobre quién debe asumir la responsabilidad cuando una recomendación automatizada genera pérdidas, sesgos o afecta directamente a un cliente. Para Liliana Palestina, directora de tecnología de Bluetab México, la organización mantiene la obligación de supervisión debido a que los sistemas carecen de criterio y empatía.
Gobernanza y Transparencia
El incremento en la automatización de procesos críticos como la contratación o el financiamiento eleva el riesgo de reproducir errores a través de la denominada caja negra. Este fenómeno ocurre cuando el sistema procesa la información y emite una decisión sin que la empresa pueda explicar con claridad los factores internos que intervinieron en el resultado.
Para evitar estas complicaciones, la vocera de la empresa sugiere implementar una arquitectura de gobierno basada en la trazabilidad de datos, la auditoría de los sistemas y la supervisión humana constante. Estas medidas permiten reconstruir el origen de la información y comprender los parámetros que influyen en las recomendaciones automatizadas.
Protección y Beneficios
La gestión adecuada de la información interna representa un factor decisivo para el rendimiento operativo frente a posibles disrupciones tecnológicas. El análisis de la compañía destaca que aquellas organizaciones con mayores capacidades de control protegen un 55% más su beneficio operativo en comparación con las empresas con esquemas menos avanzados.
No obstante, las estadísticas revelan una brecha importante en el sector, ya que solo el 10% de los ejecutivos comprende completamente la dependencia de sus modelos frente a los proveedores. Asimismo, un 71% de los encuestados señala que cambiar de infraestructura principal representaría una tarea difícil para su organización.
Criterio Humano
A pesar de la autonomía creciente, los procesos que involucren empatía o derechos fundamentales deben conservar la intervención de las personas en el paso final. Decisiones críticas como despidos o gestiones médicas no deberían quedar exclusivamente en manos de los algoritmos, manteniendo la premisa de que la tecnología aconseja pero el humano decide.
El desafío para las compañías consiste en ordenar los fundamentos operativos antes de adoptar herramientas avanzadas en sus flujos de trabajo. Hacia el año 2030, el reto principal no será la complejidad del sistema, sino la preparación institucional para cuestionarlo y asumir las consecuencias de sus acciones.
