La posibilidad de que una inteligencia artificial ayude a construir una versión más capaz de sí misma volvió a las noticias el 19 de septiembre. Associated Press examinó el concepto de mejora recursiva y las señales recientes de los laboratorios de frontera. El titular puede sugerir una máquina que se reescribe sin control; la evidencia disponible describe algo más concreto y, por ahora, más limitado: modelos que colaboran en partes crecientes de investigación, ingeniería, evaluación y seguridad bajo supervisión humana.
Comprender la diferencia importa para cualquier empresa. Exagerar conduce a decisiones tomadas por miedo o entusiasmo. Ignorar el avance también es riesgoso: cuando la automatización acelera el desarrollo de la propia automatización, los controles deben evolucionar al mismo ritmo.
Qué significa mejora recursiva
En su forma más fuerte, la mejora recursiva describe un sistema capaz de modificar su diseño, construir un sucesor mejor y repetir el ciclo con poca intervención humana. Cada mejora podría ayudar a producir la siguiente con mayor rapidez.
Esa definición incluye varios escalones que a menudo se confunden:
- Asistencia: la IA propone código, resume experimentos o encuentra errores.
- Colaboración: completa partes importantes bajo dirección cercana.
- Liderazgo supervisado: recibe un objetivo amplio y ejecuta gran parte del trabajo, mientras personas revisan e intervienen.
- Autonomía: define y completa el trabajo sin participación humana significativa.
- Mejora recursiva autónoma: usa sus avances para producir sucesores cada vez más capaces en ciclos sostenidos.
Pasar del primer nivel al tercero no demuestra que el quinto haya llegado. Sí muestra que las organizaciones necesitan medir cuánto trabajo delegan, qué decisiones quedan en manos humanas y dónde podría acumularse velocidad.
Qué reportó Anthropic
Anthropic publicó el 17 de septiembre tres mediciones sobre desarrollo de IA dentro de su laboratorio: proporción de investigación realizada con IA, cobertura de supervisión de agentes y distribución de capacidad de cómputo.
La compañía afirma que, en agosto de 2026, Claude lideraba 26% de las tareas medidas de investigación y desarrollo de modelos. Más de 90% se encontraba en nivel de colaboración o superior. También aclara que ninguna categoría medida operaba con autonomía completa.
En su plataforma interna más utilizada, Anthropic reportó aproximadamente 30.000 agentes trabajando simultáneamente en investigación e ingeniería. Según la empresa, todas las acciones de esos agentes pasaban por monitores en línea antes de ejecutarse y también eran ingeridas por sistemas de revisión posterior. Analizó más de mil millones de decisiones durante agosto y señaló que una proporción pequeña fue bloqueada.
Estas cifras son auto-reportadas, cubren sistemas y periodos específicos y dependen de una metodología que Anthropic reconoce imperfecta. La empresa propone verificación de terceros y métricas comparables entre laboratorios. La parte valiosa no es memorizar el porcentaje; es exigir mediciones que permitan observar si la supervisión crece junto con la delegación.
Qué no demuestra la noticia
No demuestra que un modelo pueda diseñar y desplegar por sí solo un sucesor superior. No significa que cada uso empresarial de IA tenga el mismo riesgo que un laboratorio de frontera. Tampoco permite predecir una fecha para una inteligencia autónoma.
Los titulares mezclan a veces capacidad potencial, demostración controlada y operación cotidiana. Para evaluar una afirmación pregunta:
- ¿Qué tarea concreta realizó el sistema?
- ¿Quién definió el objetivo y proporcionó herramientas?
- ¿Qué acciones necesitaban aprobación?
- ¿El resultado fue evaluado por personas o por otros modelos?
- ¿La medición cubre un experimento, un equipo o toda la organización?
- ¿Existe verificación independiente?
Sin esas respuestas, “la IA construye IA” puede ocultar diferencias decisivas.
Por qué sí importa a una empresa pequeña
Las capacidades desarrolladas en laboratorios llegan después a software de programación, análisis, marketing, servicio y operaciones. Un equipo puede delegar tareas más largas, conectar agentes con herramientas y permitir que otros agentes revisen su trabajo.
La productividad puede aumentar, pero también cambia la forma del error. Una equivocación humana afecta una pieza; una automatización mal configurada puede repetirla cientos de veces. Un agente con acceso amplio puede ejecutar acciones antes de que alguien revise el razonamiento. Varios agentes pueden compartir una suposición incorrecta y producir una falsa sensación de consenso.
El riesgo no depende solo de lo inteligente que sea el modelo. Depende de permisos, velocidad, reversibilidad, datos y supervisión.
Cinco riesgos que crecen con la autonomía
1. Objetivos incompletos
“Consigue más leads” puede llevar a formularios de baja calidad, mensajes agresivos o gasto excesivo si no existen restricciones. Define calidad, presupuesto, canales y acciones prohibidas.
2. Herramientas con demasiado acceso
Un agente que redacta no necesita permisos para publicar, facturar y borrar. Divide funciones y usa credenciales limitadas.
3. Evaluación circular
Si un modelo produce y otro modelo similar aprueba, ambos pueden compartir el mismo error. Incluye pruebas deterministas, fuentes y revisión humana para decisiones relevantes.
4. Velocidad superior a la respuesta
Una automatización puede realizar más acciones de las que el equipo puede inspeccionar. Establece cuotas, demoras y puntos de aprobación.
5. Pérdida de trazabilidad
Cuando múltiples agentes delegan tareas, resulta difícil reconstruir quién hizo qué. Cada agente necesita identidad, registro y límites persistentes.
Cómo leer un porcentaje de automatización sin cambiar su significado
Antes de reutilizar una cifra, completa esta ficha: `organización | periodo | conjunto de tareas | definición del nivel | método de evaluación | intervención humana | exclusiones`. Un porcentaje de tareas no es automáticamente un porcentaje de horas, de trabajadores o de ahorro.
Ejemplo puramente aritmético: en un inventario ficticio hay 20 tareas; 5 se ejecutan bajo una modalidad supervisada. Eso representa el 25 % de las tareas contadas. Si esas 5 tareas son cortas y las otras 15 consumen casi todo el tiempo del equipo, no se puede afirmar que se automatizó el 25 % de las horas. Tampoco que se eliminó el 25 % de los puestos. El inventario y la ponderación cambian la conclusión.
Ahora añade una segunda pregunta: ¿qué pasó con el trabajo de revisión? Si preparar un informe tarda 30 minutos menos, pero verificarlo añade 40 minutos, el ahorro neto de tiempo de ese informe es negativo. Son números inventados para explicar el cálculo; no describen el estudio de Anthropic.
La noticia trata sobre mediciones de un laboratorio. Para decidir permisos en un negocio, utiliza el protocolo operativo de IA. Mantener separados ambos niveles evita convertir una investigación sobre modelos en una garantía sobre tu automatización.
Fuentes consultadas
- Associated Press: análisis sobre mejora autónoma de modelos, 19 de septiembre de 2026.
- Anthropic: mediciones sobre el desarrollo de IA dentro de laboratorios, 17 de septiembre de 2026.
- OpenAI: marco de divulgación de desalineación, 16 de septiembre de 2026.
Las capacidades descritas provienen de investigaciones y reportes con alcances específicos. No permiten afirmar que exista hoy una mejora recursiva autónoma sostenida.
