La seguridad de la IA está dejando de ser un “complemento” para convertirse en una arquitectura central de la empresa: Google también está volviendo a aprender esta lección

Cuando la IA entra en los sistemas empresariales, la seguridad ya no es el “último kilómetro”

Francis de Souza, COO de Google Cloud, habló recientemente sobre la seguridad de la IA y lanzó una observación muy importante: incluso una empresa tan grande como Google está “aprendiendo en tiempo real” cómo afrontar los desafíos de seguridad de la era de la IA.

La importancia de esta frase no reside solo en que “la IA es muy peligrosa” —eso ya es un tópico repetido hasta la saciedad—. Lo más relevante es que indica que las empresas están entrando en una nueva etapa: la IA ya no es solo una herramienta independiente, sino que empieza a integrarse en los datos, los permisos, los flujos de trabajo, la atención al cliente, el código, la búsqueda, la oficina y la cadena de decisiones. En cuanto la IA entra de verdad en producción, la seguridad ya no puede entenderse como un parche posterior al lanzamiento de un proyecto; debe incorporarse desde el diseño de la arquitectura.

Por eso de Souza insiste en que “sin estrategia de datos no hay estrategia de IA; sin estrategia de seguridad, tampoco hay estrategia de IA”. En el pasado, las empresas solían priorizar primero la funcionalidad y después la protección; en la era de la IA, ese orden está dejando de funcionar.

El verdadero riesgo no son las vulnerabilidades puntuales, sino la “IA en la sombra” dentro de la empresa

Un problema mencionado una y otra vez, pero a menudo subestimado, es la llamada shadow AI, es decir, cuando los empleados usan por su cuenta distintas herramientas de IA de consumo sin supervisión de la organización.

A simple vista, esto solo significa “usar herramientas que no cumplen con las normas”. Pero desde la perspectiva de la gobernanza empresarial, implica tres cambios más profundos:

1. Los límites de los datos se están volviendo difusos: los empleados pueden introducir material interno, información de clientes o fragmentos de código en modelos externos. 2. La cadena de aprobación se elude: los equipos de TI y seguridad ya no pueden controlar por completo el flujo de datos. 3. El riesgo a nivel organizativo queda eclipsado por la comodidad a nivel de herramienta: la mejora de la eficiencia individual puede traducirse en una exposición a nivel empresarial.

Este tipo de riesgo es tan complicado porque no se trata de una intrusión hacker en el sentido tradicional, sino de que la propia “herramienta de productividad” se convierte en un canal de fuga. Las empresas antes solían centrar la seguridad en los ataques externos, pero en la era de la IA lo primero que se expande suelen ser los escenarios internos de uso no controlado.

La velocidad está reescribiendo las reglas de la ciberdefensa

De Souza también mencionó un cambio con un impacto sectorial aún mayor: el ritmo de los ataques cibernéticos modernos se está acelerando claramente, y la ventana de tiempo entre la irrupción y la siguiente fase del ataque se ha reducido de horas a decenas de segundos.

¿Qué significa esto?

Significa que la “ventana de respuesta humana” sobre la que se ha construido la seguridad tradicional está desapareciendo. Antes, las empresas podían apoyarse en alertas, análisis, verificación manual y coordinación de equipos para gestionar incidentes; ahora, la velocidad de propagación del ataque puede ser mayor que el ciclo de juicio de la mayoría de las personas.Esto también explica por qué “machine speed against machine speed” se ha convertido en una palabra clave para cada vez más equipos de seguridad. Dicho de otro modo, el lado defensivo también debe automatizarse, e incluso automatizarse aún más. La IA aquí no solo está generando nuevos riesgos; también está obligando a la industria de la seguridad a rediseñar la lógica de defensa:

• detección de anomalías más rápida
• contención de privilegios más automatizada
• orquestación de respuestas más en tiempo real
• un primer mecanismo de bloqueo que dependa menos de decisiones humanas

Esto no es una pequeña mejora de las herramientas de seguridad, sino una señal de la transición de la industria de la seguridad hacia “sistemas de defensa autónomos”.

Los agentes de IA pueden exponer más rápido los sistemas heredados de las empresas

Otra dirección que merece cautela es que los agentes de IA comienzan a moverse dentro de los sistemas internos de las empresas.

Desde la perspectiva de la eficiencia, este tipo de agentes puede ayudar a los empleados a buscar información, ejecutar tareas y acceder a sistemas. Pero desde la perspectiva de la seguridad, también pueden descubrir más rápido esos rincones que han sido ignorados durante mucho tiempo: SharePoint obsoletos, bases de datos abandonadas, sistemas internos con configuraciones de permisos desordenadas, servicios antiguos que nadie mantiene pero que siguen en línea.

Este tipo de problemas no fueron creados por la IA, pero la IA hace que sean más fáciles de detectar y también más fáciles de amplificar.

En los entornos tradicionales de TI, muchas razones por las que los sistemas heredados no han causado problemas durante años es porque eran “demasiado poco llamativos”; pero cuando un agente de IA puede buscar, combinar y razonar entre sistemas como un usuario interno, esos activos dormidos se convierten en una superficie de ataque que puede ser aprovechada rápidamente.

Por eso las empresas no pueden limitarse a discutir “qué puede hacer la IA”, sino que también deben responder al mismo tiempo “qué puede ver la IA, a qué puede acceder y qué puede invocar”.

Los problemas de seguridad están ascendiendo a tema de consejo de administración

Lea Kissner, CISO de LinkedIn, señaló que en los próximos años la industria podría enfrentarse a una ola de nuevas vulnerabilidades provocadas por la IA.

El peso de este tipo de juicio está en que muestra que la seguridad de la IA ya ha pasado de ser un problema del equipo técnico a ser un problema de gobernanza corporativa. Antes, el consejo de administración se preocupaba por el cumplimiento normativo, las finanzas y el riesgo de marca; ahora, la seguridad de la IA se está convirtiendo en un tema estratégico del mismo nivel que esos asuntos.

La razón es simple:

• las empresas dependen cada vez más de la IA para el trabajo del conocimiento
• las entradas y salidas de los sistemas de IA son más difíciles de auditar por completo
• los modelos, plugins, agentes y conectores de datos no dejan de aumentar
• un solo error de configuración puede provocar una fuga sistémica

En este entorno, el presupuesto de seguridad ya no es solo un coste de TI, sino una condición previa para la comercialización de la IA. Sin gobernanza de seguridad, las ganancias de eficiencia de la IA pueden ser rápidamente absorbidas por el coste de los incidentes.

Por qué este cambio no es solo un problema de Google

Si esta noticia se entiende solo como “Google hablando de seguridad de IA”, se está viendo demasiado estrecho.Más precisamente, esta es la señal de que toda la industria de la IA está entrando en aguas profundas. En la fase anterior, el foco de la competencia del sector estaba en la capacidad del modelo, la velocidad de inferencia, la longitud del contexto, el precio y la experiencia; en la siguiente fase, los clientes empresariales se preocuparán cada vez más por tres cosas:

• si los datos son controlables
• si los permisos son auditables
• si la automatización puede aislarse

Esto afectará directamente al panorama competitivo del mercado de la IA.

Para los proveedores de nube, la capacidad de seguridad se convertirá en una propuesta clave, al mismo nivel que la capacidad de cómputo, los modelos y las herramientas de desarrollo; para las empresas de modelos, quien pueda demostrar mejor su seguridad y capacidad de gobernanza a nivel empresarial tendrá más facilidad para entrar en escenarios de compras a gran escala; para las startups, el nuevo mercado en torno a la seguridad de la IA, los permisos de datos, la gobernanza de agentes, la auditoría de modelos y la defensa automática seguirá expandiéndose.

En otras palabras, la seguridad de la IA no es un nicho periférico, sino la capa central de la próxima ola de infraestructura empresarial de IA.

Del “competencia de modelos” a la “competencia de sistemas”

Hoy en día, la competencia en IA ya es difícil de describir solo con “qué modelo es más potente”.

Lo que realmente determina el aterrizaje comercial es cada vez más la capacidad del sistema: nube, identidad, permisos, registros, auditoría, canalizaciones de datos, capacidad en el dispositivo, respuesta de seguridad y marcos de gobernanza. El modelo es solo la puerta de entrada; el sistema es el campo de batalla.

Esto también explica por qué las grandes empresas tecnológicas impulsan al mismo tiempo plataformas de IA, servicios en la nube y productos de seguridad. Porque en el mercado empresarial, la vía de comercialización de la IA no es, en esencia, la venta de un modelo aislado, sino una reconfiguración de toda la arquitectura de TI.

Si la competencia del cloud computing en la última década se centraba en “quién podía alojar aplicaciones de forma más barata y estable”, entonces la respuesta en la era de la IA está pasando a ser: quién puede, al mismo tiempo que alberga inteligencia, garantizar soberanía de datos, límites de acceso y defensa en tiempo real.

A más largo plazo, la seguridad de la IA reconfigurará la división del trabajo

El impacto de la seguridad de la IA no se limitará al nivel técnico.

A medida que la defensa automatizada, la ejecución por agentes y la respuesta a velocidad de máquina se vuelvan más comunes, el trabajo de seguridad, de cumplimiento normativo y de operaciones básicas dentro de las empresas sufrirá cambios estructurales. Muchas tareas que antes dependían de inspección manual, aprobaciones y gestión, podrían reorganizarse en flujos semiautomáticos o incluso totalmente automatizados.

Esto no significa que desaparezca el papel humano, sino que cambia:

• de ejecutor a diseñador de reglas
• de gestor de incidentes a supervisor de anomalías
• de administrador de sistemas a gestor de políticas

En la era de la IA, los equipos de seguridad ya no serán solo “brigadas de bomberos”, sino más bien los diseñadores del perímetro de los sistemas inteligentes de la empresa.

Conclusión: cuanto más se populariza la IA, más se parece la seguridad a una infraestructura

La discusión en torno a Google Cloud revela, en realidad, que se está formando un consenso en la industria: la IA no resolverá primero el problema de la seguridad para luego entrar en las empresas; al contrario, la IA, en el proceso de desplegarse ampliamente en las empresas, pondrá los problemas de seguridad en primer plano.En los próximos años, el éxito o fracaso de la IA empresarial no dependerá solo del rendimiento del modelo, sino también de si puede mantenerse controlable, auditable, aislable y recuperable en organizaciones reales.

La IA no está creando una nueva clase de funciones de software, sino reescribiendo la estructura de confianza de los sistemas empresariales.

Y cuando la estructura de confianza se reescribe, la seguridad deja de ser un complemento y pasa a ser la propia industria.