El próximo gran desafío no será solo desarrollar modelos más avanzados, garantizar que sus decisiones sean confiables, transparentes y gobernadas de manera responsable. Este fue uno de los principales ejes del encuentro en línea con la tendencia «Intelligence We Trust» a cargo de María Pilar Torres Bruna, directora de Ciberseguridad de NTT DATA para Iberia y Latinoamérica.
En relación con la inteligencia artificial generativa, el 89 % de las organizaciones afirma que sus políticas de IA son insuficientes o que directamente no existen. Además, el 92 % de las compañías dice no tener claro cuál puede ser el impacto social de que sus políticas estén incompletas, sean incorrectas o no generen confianza.
El informe de NTT DATA Foresight 2026, plantea que la confianza será uno de los principales habilitadores para ampliar la adopción de la IA en los próximos años.
En este nuevo escenario, la ciberseguridad tendrá que evolucionar: ya no alcanzará con proteger aplicaciones e infraestructuras, también será necesario entender cómo la IA toma decisiones. La integridad de los modelos, la identidad de los agentes inteligentes, la trazabilidad de sus acciones y la gobernanza entre compañías serán elementos clave para que estos sistemas puedan adoptarse con mayor seguridad. Para las organizaciones, esto implica revisar no solo cómo se protege la tecnología, sino también cómo se auditan sus criterios de decisión, qué datos la alimentan y qué controles existen sobre su uso.
Cómo hacer operativa la confianza
«La pregunta es qué deben hacer las organizaciones para que la confianza se convierta realmente en una capacidad y qué debemos exigir nosotros como personas, ciudadanos, trabajadores y usuarios de servicios»
La IA debe ser comprensible y sus decisiones deben poder explicarse. El origen y el contenido de los datos deben poder verificarse, y deben existir mecanismos para detectar manipulaciones o cambios.
La IA también debe poder controlarse. Cuando ponemos en marcha un sistema, tenemos que ser capaces de establecerle límites y un guardarraíl. Los agentes, los procesos de IA y los permisos deben poder gobernarse, incluso ajustando las políticas en tiempo real.
Además, la IA debe tener un responsable. Tiene que existir evidencia clara, trazabilidad y capacidad de auditoría. Su comportamiento debe monitorizarse continuamente y, si algo no cuadra o no funciona bien, debe ser posible responder y corregirlo en ese mismo momento. La confianza se vuelve operativa cuando estas tres líneas de trabajo avanzan a la vez.
«Así como hoy investigamos a un médico o a una aerolínea antes de ponernos en sus manos, en el futuro también querremos saber quién desarrolló una IA, cómo fue entrenada y qué garantías ofrece antes de confiarle una decisión importante», agregó Torres Bruna.
«Implica un cambio de mentalidad y la adopción de esta tendencia de confianza en la inteligencia es algo que las organizaciones irán incorporando durante los próximos meses. Todavía queda mucho camino y muchas oportunidades para seguir trabajando en la confianza», remarca Torres Bruna.
Inversor Latam le pregunto a la especialista . ¿Cuál es la solución a la hora de sufrir un ataque o un incidente que puede afectar la reputación de una empresa?
«Siempre decimos que la respuesta a incidentes comienza cuando se crea un plan de respuesta, no cuando se produce el ataque. Ese plan se elabora en un momento de normalidad y debe describir cómo vamos a actuar si ocurre un incidente. Obviamente, el documento debe contemplar distintos niveles de complejidad y criticidad —baja, media y alta—, pero para que un incidente afecte a la reputación probablemente tendrá un impacto alto».
«En ese caso, el responsable del plan de respuesta o del plan de crisis no es únicamente el CISO (Chief Information Security Officer), el CIO (Chief Information Officer)o el área de TI. También deben participar marketing, legal, comunicación y otras áreas de la organización. En un momento de tranquilidad tenemos que pensar cómo evitar que el incidente dañe la reputación.»
«Muchas veces sufrimos un ataque sin haber decidido previamente si debemos notificarlo, si es conveniente publicar un mensaje en redes sociales o qué deberíamos decir para proteger la reputación y reducir el daño. Por tanto, el cuidado de la reputación de una organización comienza con la definición del plan de respuesta a incidentes y del plan de crisis», finalizó Torres Bruna.
De la disertación de NTT DATA, se destacan estos tips
-La confianza como capacidad operativa.
-El impacto en organizaciones y usuarios finales.
-La delegación de decisiones en sistemas de IA.
-La toma de decisiones como nueva superficie de ataque.
