Wireva

Padre Bohdan pide frenar la escalada de la IA sin apagar lo que ya existe

El sacerdote ortodoxo y emprendedor tecnológico propone separar el uso cotidiano de la IA de la carrera por aumentar sus capacidades, una idea que coincide con nuevas advertencias desde OpenAI y Anthropic.

Este artículo se ha producido con ayuda de IA bajo la responsabilidad editorial de Haydamax OÜ.

Padre Bohdan propone cambiar una idea que durante años ha dominado la inteligencia artificial: que avanzar más rápido es, por definición, avanzar mejor. El sacerdote ortodoxo y emprendedor tecnológico no pide prohibir la IA ni desconectar los sistemas que ya funcionan. Su propuesta es detener temporalmente el entrenamiento de nuevos modelos cada vez más potentes.

En un texto publicado el 8 de septiembre, plantea la cuestión desde la vida cotidiana. Si las empresas dejaran durante un tiempo de aumentar las capacidades de los modelos de frontera, ¿empeoraría realmente la vida de la mayoría de las personas? Su respuesta es no. Las herramientas ya disponibles seguirían existiendo; lo que se frenaría sería la siguiente escalada de capacidad.

La distinción parece pequeña, pero cambia el centro del debate. No se trata de elegir entre tecnología y rechazo a la tecnología. Se trata de decidir si el progreso debe ser continuo y automático o si puede incorporar pausas cuando la capacidad de controlar los sistemas avanza más despacio que la capacidad de construirlos.

Dos días antes de la publicación de Padre Bohdan, el científico jefe de OpenAI, Jakub Pachocki, formuló una preocupación similar desde dentro de uno de los principales laboratorios del sector. Pachocki escribió que ningún laboratorio ha resuelto suficientemente los problemas de alineación y monitorización como para continuar durante mucho tiempo escalando a máxima velocidad de manera responsable. También dijo que espera que las ralentizaciones voluntarias se vuelvan habituales hasta que existan umbrales de seguridad compartidos.

La presión para acelerar, sin embargo, está creciendo. Fortune informó el 8 de septiembre de que OpenAI ya utiliza el equivalente a 3,1 jornadas de trabajo de agentes de IA por cada jornada humana dentro de su organización de investigación. La inteligencia artificial empieza así a acelerar la propia investigación que produce nuevas generaciones de inteligencia artificial.

Ese cambio convierte la velocidad en una cuestión estructural. Cuando una herramienta ayuda a diseñar una versión mejor de sí misma, cada salto puede facilitar el siguiente. Los laboratorios ven enormes oportunidades científicas y comerciales en ese proceso, pero también afrontan un problema de control: las técnicas para comprender, supervisar y limitar los sistemas no necesariamente mejoran al mismo ritmo.

La discusión se intensificó el 9 de septiembre. Jacob Coxon, investigador de Anthropic, fue noticia por abandonar la empresa y el sector de la IA ante el temor de que el desarrollo avance demasiado rápido y pueda escapar a un control efectivo. Según los informes sobre su salida, cree que ninguna compañía puede gestionar por sí sola el riesgo y que hacen falta regulación pública o una desaceleración coordinada.

No es la primera señal de que la industria contempla mecanismos de pausa. En julio, más de 1.200 trabajadores de grandes laboratorios, incluidos Anthropic, Google DeepMind, OpenAI y Meta, respaldaron una declaración que pedía al Gobierno de Estados Unidos ayudar a crear herramientas capaces de reducir el ritmo del desarrollo avanzado si fuera necesario. Entre los firmantes figuraban dirigentes y científicos de primera línea.

Esto no significa que el sector haya adoptado una posición común. Las empresas siguen compitiendo por modelos más capaces, nuevos clientes y mayores inversiones. Pero sí indica una transformación en el lenguaje de la industria. La pregunta ya no es únicamente hasta dónde puede llegar la IA, sino qué condiciones deberían cumplirse antes de permitir el siguiente salto.

La propuesta de Padre Bohdan encaja en ese cambio precisamente porque evita el maximalismo. No afirma que la IA deba desaparecer. Afirma que una sociedad que ya dispone de sistemas muy potentes puede permitirse preguntar si necesita inmediatamente otros más potentes todavía. Esa pausa abre espacio para evaluaciones, auditorías, normas y acuerdos entre competidores.

El problema final es político y económico tanto como técnico. Un laboratorio que frene solo puede perder ventaja frente a otro que continúe. Por eso una pausa estable exige criterios comunes y mecanismos de coordinación. La transformación más importante de la IA quizá no sea solo la llegada de modelos más capaces, sino la aparición de reglas que permitan decidir cuándo no es prudente aumentar todavía más sus capacidades.

Same event, other desks

Story file →