Ciberseguridad frente a la IA: visibilidad, gobierno y protección, las claves para reducir riesgos

Foto: DPL NewsCiudad de México,México. La adopción acelerada de Inteligencia Artificial (IA) está transformando los procesos de las organizaciones,pero también está ampliando su superficie de ataque y generando nuevos desafíos para los responsables de ciberseguridad,así lo señaló Marcos Polanco,director Ejecutivo de Gobierno Corporativo y CISO de Scitum Telmex,durante el keynote “Riesgos y soluciones de ciberseguridad” en el marco del México Digital Summit 2026.

Para Polanco,la discusión ya no pasa por decidir si las organizaciones deben adoptar IA,sino por hacerlo de manera segura. Al respecto,el principal desafío es el denominado Shadow AI,que se refiere al uso de herramientas de IA por parte de empleados sin autorización,visibilidad o supervisión de la organización.

El riesgo aumenta cuando los trabajadores introducen información confidencial o sensible en versiones gratuitas de modelos,sin conocer las condiciones bajo las cuales esos datos pueden ser utilizados.

“Los empleados empezaron a adoptar la IA sin permiso,sin conocimiento,sin supervisión de absolutamente nadie en la organización,este fenómeno puede ir mucho más allá de tareas sencillas como redactar un correo y llegar al análisis de información financiera o a la elaboración de propuestas para clientes”,advirtió Polanco.

Lee también: ¿Confiar o no confiar en el algoritmo?,esa es cuestión en la era digital

A esto se suman otros riesgos asociados como la generación de código vulnerable,sesgos en la toma de decisiones,alucinaciones (respuestas incorrectas o imprecisas),generación de contenido ofensivo o ilícito y los problemas relacionados con propiedad intelectual.

En este escenario,el ejecutivo de Scitum Telmex destacó la importancia de mantener intervención humana,explicabilidad y trazabilidad. “Una decisión empresarial no debería justificarse simplemente con que lo dijo ChatGPT,sino que debe existir una persona capaz de explicar por qué se tomó determinada decisión y bajo qué criterios”,aseguró.

Por otro lado,el riesgo no proviene únicamente del uso interno de estas tecnologías. De acuerdo con Polanco,los ciberdelincuentes también están aprovechando la IA para acelerar sus operaciones.

“Está aumentando la velocidad en todo,tanto en la defensa como en el ataque. Además,la IA incrementa la superficie de ataque y está democratizando capacidades ofensivas,al facilitar que personas con menor experiencia técnica puedan ejecutar acciones que anteriormente requerían mayores conocimientos especializados”,afirmó.

Entre las amenazas destacó el prompt injection,mediante el cual un atacante introduce instrucciones maliciosas para alterar el comportamiento previsto de un modelo de Inteligencia Artificial. Polanco señaló que esta técnica se encuentra entre los principales riesgos identificados actualmente para los sistemas de IA.

Por ello,recomendó que las organizaciones no se limiten a proteger la infraestructura tradicional,sino que también validan tanto las entradas como las salidas de los sistemas de IA.

Tres líneas de acción de ciberseguridad

El primer paso es saber qué está ocurriendo dentro de la organización,qué modelos y aplicaciones se utilizan,qué usuarios tienen acceso y qué información intercambian con estas herramientas.

El segundo riesgo,de gobierno de IA que defina las reglas para su utilización,esto implica determinar principios como explicabilidad,trazabilidad,responsabilidad e intervención humana. Establecer roles y responsables,así como definir procesos de aprobación para los casos de uso y establecer mecanismos para gestionar riesgos y supervisar el cumplimiento.

El último riesgo,de protección,que incluye tecnologías y controles para proteger la información,supervisar el comportamiento de los modelos y reducir posibles usos indebidos.

Entre las herramientas mencionadas por Polanco están los AI gateways,que permiten controlar los flujos de entrada y salida de los sistemas de IA,así como mecanismos de seguridad para agentes autónomos,pruebas de seguridad o red teaming,monitoreo durante la ejecución y validación de modelos de terceros.

La IA está modificando el panorama de riesgos y,con ello,también el papel de los responsables de ciberseguridad. Para las organizaciones,el desafío será aprovechar la velocidad y eficiencia que ofrece la IA sin perder de vista que cada nuevo modelo,aplicación o agente puede convertirse también en un nuevo punto de exposición.

“La ciberseguridad es el camino,la tranquilidad,el destino”,concluyó Polanco.