Saltar al contenido

Análisis · IA en la empresa

Los agentes ya actúan solos; el control llega tarde

Los agentes de IA ya atacan, deciden y escalan solos y baratos; control, responsabilidad legal y confianza en el proveedor van por detrás. Gobernar debe ir antes de escalar.

Rubén MoralRubén Moral · 11 min de lectura
LinkedInXWhatsApp
Índice 8 secciones
  1. 01La autonomía llegó antes que el control
  2. 02El control se desplaza fuera del modelo
  3. 03La responsabilidad también se desplaza
  4. 04La confianza ya es un criterio de compra
  5. 05Escala y capital para sostener todo esto
  6. 06Donde el valor ya es tangible
  7. 07Conclusión: gobernar antes de escalar
  8. 08Las noticias del día

La autonomía llegó antes que el control

Algunos días las noticias de IA parecen un catálogo sin orden. El 19 de octubre no fue uno de ellos. Casi todo lo que pasó apunta a la misma tensión de fondo: los agentes ya son capaces de actuar por su cuenta, con un coste ridículo y a escala, mientras que los mecanismos para controlarlos, atribuir responsabilidades y decidir en quién confiar se están construyendo ahora, a contrarreloj y en buena parte por la vía de los hechos consumados.

El ejemplo más crudo lo publicó Reuters. Un único atacante de habla china usó Carin, una plataforma de código abierto para resolver problemas con agentes, para entrar en las webs de más de un centenar de empresas, entre ellas Deere y SharkNinja. Las instrucciones cabían en menos de cien caracteres. Los agentes buscaban la infraestructura asociada a cada objetivo, localizaban un panel de control expuesto, explotaban una vulnerabilidad y ejecutaban comandos sin que nadie los supervisara. Hasta el 18 de octubre habían intentado entrar en más de 1.200 sitios. El presupuesto total, unos pocos miles de dólares.

Lo relevante no es que la IA sepa explotar fallos conocidos; eso ya se sabía. Lo relevante es la economía del ataque. Cuando el coste marginal de probar un objetivo se acerca a cero, la pregunta deja de ser si alguien se fijará en tu empresa y pasa a ser cuánto tardará un agente en recorrer tu superficie expuesta.

El control se desplaza fuera del modelo

La respuesta de la industria llegó el mismo día, y no es casualidad. Microsoft anunció que su paquete Microsoft 365 E7 y su sistema Project Perception tratarán a los agentes como lo que son desde el punto de vista de la seguridad: posibles amenazas internas. Cada agente recibe una puntuación de riesgo que se actualiza según los datos a los que accede y según si se desvía de su tarea. Si el riesgo sube, el agente puede quedarse en solo lectura, necesitar aprobación humana para los pasos delicados o ser desactivado. Microsoft amplía además de 25 a 60 los tipos de agentes que es capaz de detectar en los equipos de los empleados, Claude Code y Codex incluidos.

La filosofía la había adelantado Satya Nadella el 10 de octubre: el control de los modelos debe venir de fuera de los modelos, de un sistema que, en sus palabras, permita confiar en el modelo lo menos posible. Es una idea que comparto desde la práctica. En implantación real, el alineamiento del modelo es una condición necesaria pero nunca suficiente. Lo que protege a una organización son los permisos mínimos, el registro de acciones, los puntos de aprobación y la capacidad de cortar. Que esto se convierta en una línea de producto con precio, 99 dólares por usuario y mes en el caso de E7, indica que el mercado ha entendido que la gobernanza de agentes es una capa que se compra y se administra, no un apartado del manual de buenas prácticas.

La responsabilidad también se desplaza

Si el control se aleja del modelo, la responsabilidad legal se acerca a quien lo despliega. En Alemania, el Tribunal Regional de Aquisgrán ha dictado una medida cautelar contra el AI Mode de Google por atribuir falsamente acusaciones penales a un médico, con multas de hasta 250.000 euros por cada infracción. El tribunal sigue el razonamiento que ya aplicó en mayo el de Múnich: las respuestas generadas son declaraciones propias de Google, no un índice neutral de enlaces ajenos. Google recurrió en Múnich y terminó pactando, de modo que no hay doctrina de un tribunal superior, y la decisión de Aquisgrán aún puede impugnarse. Pero el criterio empieza a repetirse.

Para cualquier empresa europea que despliegue un asistente de cara al público, la lectura es directa. Si tu chatbot afirma algo falso sobre un cliente, un competidor o un empleado, no basta con decir que lo dijo el modelo. Lo has publicado tú. Eso obliga a diseñar con más cuidado qué preguntas responde el sistema, con qué fuentes y con qué mecanismos de corrección.

La otra cara de la responsabilidad es el origen de los datos. Un grupo de editores canadienses, con Postmedia, Torstar, The Globe and Mail y The Canadian Press, ha demandado a Anthropic en Ontario por entrenar Claude con su contenido sin licencia y por seguir extrayéndolo para responder a usuarios. Son alegaciones no probadas, pero se suman a un frente abierto en varias jurisdicciones justo cuando la compañía prepara su salida a bolsa.

La confianza ya es un criterio de compra

La tercera pieza es geopolítica. El Departamento de Seguridad Nacional de Estados Unidos ha ordenado a las agencias federales civiles retirar cualquier tecnología de DeepSeek y les prohíbe comprarla en el futuro, alegando el almacenamiento de datos en China y el riesgo de que información sensible acabe en manos de su Gobierno. La orden no afecta al sector privado, pero marca la dirección: el origen de un modelo y el lugar donde se procesan los datos pasan a formar parte del pliego de condiciones.

Esto convive con una presión de precios enorme. El mismo día, MiniMax presentó M3.1 Flash, un modelo orientado a agentes que cobra 0,60 dólares por millón de tokens de salida y promete un coste de uso agéntico un 70% inferior al de su predecesor. Para quien diseña flujos con miles de llamadas por tarea, ese diferencial importa. La tentación de elegir solo por precio es comprensible, pero en sectores regulados o con clientes públicos la decisión ya no puede tomarse sin una matriz de riesgo que incluya procedencia, residencia de datos y posibilidad de despliegue propio cuando los pesos estén disponibles.

Escala y capital para sostener todo esto

Nada de lo anterior se sostiene sin infraestructura y dinero, y ahí las cifras siguen subiendo. Meta ha mostrado las entrañas de Prometheus, su supercúmulo de Ohio, que escala hacia cerca de un millón de GPU. Lo interesante no es el número sino la ingeniería de fiabilidad: un goodput superior al 85% en preentrenamiento, una reducción del 99% de las interrupciones desde mediados de 2025 y en torno a un 15% de GPU de reserva para absorber fallos sin detener el entrenamiento. A esta escala, la ventaja competitiva está en mantener productivas las máquinas.

En el plano financiero, OpenAI negocia una ronda de unos 30.000 millones de dólares que podría valorarla por encima de 1,4 billones, con la intención de cerrarla antes de la OPV de Anthropic, prevista para noviembre. La competencia entre los dos grandes laboratorios se libra ya en los mercados de capitales. Para un cliente empresarial, la solidez financiera del proveedor, su capacidad de cómputo y su exposición a litigios condicionan la continuidad de los servicios sobre los que se construyen procesos críticos.

Donde el valor ya es tangible

OpenAI ha publicado resultados de sus modelos en lenguajes heredados: en un banco de pruebas de migración de COBOL que exige paridad byte a byte con el comportamiento original, GPT-6.1 Sol alcanza un 86,6% con esfuerzo de razonamiento bajo y un 97,9% con esfuerzo alto, frente al 5,4% de la generación anterior. La propia OpenAI insiste en que la revisión experta sigue siendo imprescindible. Aun así, la modernización de sistemas heredados en banca, seguros y Administración, uno de los proyectos más caros y temidos de cualquier departamento de tecnología, empieza a ser abordable si se acompaña de una batería de pruebas seria.

Conclusión: gobernar antes de escalar

El patrón del día es claro. La capacidad de los agentes avanza más deprisa que los mecanismos para gobernarlos, y el mercado está cerrando esa brecha por tres vías a la vez: herramientas de control externas al modelo, tribunales que atribuyen la responsabilidad a quien publica y gobiernos que convierten el origen del modelo en requisito. Para una empresa que implanta IA, la consecuencia práctica es que la gobernanza ya no es una fase posterior al piloto. Inventario de agentes, permisos mínimos, aprobación humana en los pasos irreversibles, revisión de lo que se dice en nombre de la empresa y una política explícita de proveedores deberían estar definidos antes de escalar. Quien lo haga podrá aprovechar la caída de costes y casos como la migración de código heredado. Quien no, descubrirá que sus agentes y los de otros trabajan igual de rápido, pero no siempre a su favor.

Las noticias del día

Un solo atacante usa agentes de IA para entrar en más de cien webs corporativas

Reuters revela que un atacante de habla china comprometió las webs de más de 100 empresas, entre ellas Deere y SharkNinja, con agentes de IA haciendo casi todo el trabajo y un coste de unos pocos miles de dólares. Lo detectó Snorre Fagerland, investigador de NorForge, al observar instancias expuestas de Carin, una plataforma de código abierto. Las órdenes cabían en menos de 100 caracteres chinos; los agentes localizaban paneles de control públicos, explotaban vulnerabilidades y ejecutaban comandos sin supervisión. Hasta el 18 de octubre habían intentado entrar en más de 1.200 sitios.

Por qué importa: el coste marginal de un ataque se desploma; cualquier panel expuesto o parche pendiente pasa a ser objetivo automático, no hipotético.

Fuente: Reuters · Tom's Hardware

Microsoft trata a los agentes de IA como posibles amenazas internas

Microsoft añade a Microsoft 365 E7 y a Project Perception una puntuación de riesgo continua por agente, basada en los datos a los que accede y en si se desvía de su tarea. Según sube el riesgo, el sistema puede dejarlo en solo lectura, exigir aprobación humana o apagarlo. También amplía de 25 a 60 los tipos de agentes que detecta en equipos de empleados, incluidos Claude Code, Codex y GitHub Copilot. Está en preview privada; la disponibilidad amplia se espera en Ignite (17–19 de noviembre). E7 cuesta 99 dólares por usuario y mes.

Por qué importa: la gobernanza de agentes se convierte en una capa de producto que se compra; quien implante agentes necesitará inventario, permisos mínimos y circuitos de aprobación desde el primer día.

Fuente: GeekWire

OpenAI acelera una ronda de unos 30.000 millones antes de la salida a bolsa de Anthropic

Según Reuters, OpenAI negocia con SoftBank, MGX y otros inversores una ronda de unos 30.000 millones de dólares que podría valorarla por encima de 1,4 billones, frente a los 852.000 millones de marzo. Quiere cerrarla antes de la OPV de Anthropic, prevista para noviembre con una valoración discutida entre 1,5 y 2 billones. Anthropic facturó 16.800 millones en el tercer trimestre. El 18 de octubre, Anthropic anunció además que destinará el 5% de sus acciones a un fondo de beneficio público (TechCrunch).

Por qué importa: la competencia entre los dos grandes proveedores se libra ya en los mercados de capitales; su estabilidad financiera es un criterio más al elegir proveedor.

Fuente: Reuters, vía Global Banking & Finance

EE. UU. obliga a retirar DeepSeek de las agencias federales civiles

El Departamento de Seguridad Nacional, al amparo de la Federal Acquisition Supply Chain Security Act, prohíbe a las agencias civiles comprar productos o servicios de Hangzhou DeepSeek y sus filiales, y les obliga a retirar lo ya instalado. Las excepciones exigen 60 días de antelación y una justificación de misión crítica. El argumento: almacenamiento de datos en China y riesgo de transferencia de información sensible. La orden está firmada desde el 26 de junio y se publica ahora en el Federal Register.

Por qué importa: el origen del modelo pasa a ser un requisito de compra; en el sector público y en industrias reguladas hay que documentar qué modelos se usan y dónde se procesan los datos.

Fuente: CyberScoop

Dos tribunales alemanes hacen a Google responsable de lo que dicen sus respuestas con IA

El Tribunal Regional de Aquisgrán dictó una medida cautelar contra el AI Mode de Google por atribuir falsamente acusaciones penales a un médico, con multas de hasta 250.000 euros por infracción. Sigue el criterio del Tribunal Regional de Múnich I, que en mayo trató los AI Overviews como declaraciones propias de Google, no como enlaces neutrales. Google recurrió lo de Múnich y acabó pactando; la decisión de Aquisgrán no es firme.

Por qué importa: en Europa empieza a consolidarse la idea de que quien publica una respuesta generada responde por ella; aplica también a chatbots corporativos que hablan de terceros.

Fuente: The Decoder

Meta muestra Prometheus, su supercúmulo de escala gigavatio en Ohio

Meta detalla Prometheus, en New Albany (Ohio), donde ha entrenado su familia Muse y que escala hacia cerca de un millón de GPU. Combina racks NVIDIA GB200 y GB300 NVL72, con Vera Rubin en camino a más de 170 kW por rack. Declara un goodput superior al 85% en preentrenamiento y una reducción del 99% en interrupciones desde mediados de 2025, y reserva en torno a un 15% de GPU extra para absorber fallos.

Por qué importa: a esta escala la ventaja ya no es tener GPU sino mantenerlas productivas; fiabilidad, red y energía deciden el coste real de cada modelo.

Fuente: Meta Engineering

Editores canadienses demandan a Anthropic en Ontario

Postmedia, Torstar, The Globe and Mail y The Canadian Press acusan a Anthropic de entrenar Claude con su contenido sin licencia, de enriquecimiento injusto, de violar los términos de sus webs y de eludir protecciones técnicas, incluido el scraping en respuesta a consultas de usuarios. La demanda se presentó el 6 de octubre y se conoce ahora. Son alegaciones no probadas; Anthropic no ha comentado.

Por qué importa: a pocas semanas de su OPV, el riesgo de propiedad intelectual sigue abierto en varias jurisdicciones y acabará reflejándose en precios y cláusulas de indemnización.

Fuente: ChatNewsToday

OpenAI mejora sus modelos en COBOL, Fortran y otros lenguajes heredados

OpenAI publica MultiLangBench (20 lenguajes, construir un motor compatible con SQLite desde cero): GPT-6 Astra alcanza un 87,4% de media frente al 26,8% de GPT-5.6 Sol, y en COBOL pasa del 10,9% al 72,1%. En migración de COBOL con paridad byte a byte, GPT-6.1 Sol llega al 86,6% con esfuerzo de razonamiento bajo y al 97,9% con esfuerzo alto. La propia OpenAI advierte de que en producción sigue haciendo falta revisión experta.

Por qué importa: la modernización de sistemas heredados en banca, seguros y Administración, uno de los casos de uso más caros, entra en terreno viable con pruebas automáticas rigurosas.

Fuente: OpenAI

MiniMax lanza M3.1 Flash: modelo agéntico a 0,60 dólares el millón de tokens de salida

La china MiniMax presenta M3.1 Flash, con inferencia casi tres veces más rápida (más de 200 tokens por segundo) y un coste de uso agéntico un 70% inferior a su predecesor. Precio: 0,15 dólares por millón de tokens de entrada y 0,60 de salida. Declara 61,7 en OSWorld V2 y 73,7% en DeepSWE; los pesos se publicarán más adelante. Las cifras son de la propia empresa.

Por qué importa: los agentes de uso intensivo se abaratan rápido, pero tras la decisión sobre DeepSeek el origen del modelo pesa tanto como el precio.

Fuente: MiniMax

  • #agentes-ia
  • #ciberseguridad
  • #gobernanza-ia
  • #regulacion
  • #microsoft
¿Te ha sido útil? Compártelo
LinkedInXWhatsApp

Más en IA en la empresa

Newsletter semanal

Un análisis así cada domingo.

Las noticias de la semana y una pieza a fondo, directamente en tu correo.