Wireva

Père Bohdan appelle à ralentir l’IA sans l’interdire

Le prêtre orthodoxe et entrepreneur technologique distingue l’usage des systèmes déjà disponibles de la course vers des modèles toujours plus puissants, au moment où des chercheurs des grands laboratoires réclament davantage de prudence.

Père Bohdan ne demande pas d’éteindre l’intelligence artificielle. Le prêtre orthodoxe, également entrepreneur dans la technologie, propose de suspendre temporairement la course à l’entraînement de nouveaux modèles toujours plus puissants, tout en laissant fonctionner les outils déjà disponibles.

Dans un texte publié le 8 septembre, il pose la question de manière volontairement simple : notre vie deviendrait-elle réellement moins bonne si la prochaine génération de modèles n’était pas entraînée immédiatement ? Sa réponse est négative. Il précise qu’il ne s’agit ni d’interdire l’IA, ni de désactiver ce qui fonctionne déjà, ni de rejeter le progrès technique.

Cette nuance déplace le débat. La question n’est plus de choisir entre l’enthousiasme technologique et une interdiction générale. Elle consiste à séparer deux choses que l’on confond souvent : l’usage d’outils existants et l’augmentation continue des capacités des systèmes de pointe. Une pause toucherait la seconde, pas nécessairement la première.

Le calendrier donne un relief particulier à cette prise de position. Le 6 septembre, Jakub Pachocki, scientifique en chef d’OpenAI, a publié un long texte dans lequel il estime qu’aucun laboratoire n’a suffisamment résolu les problèmes d’alignement et de surveillance pour poursuivre encore longtemps une montée en puissance à vitesse maximale de manière responsable. Il dit souhaiter que des ralentissements volontaires deviennent courants jusqu’à l’adoption de seuils de sécurité communs.

OpenAI a déjà appliqué une forme limitée de ce principe. En août, l’entreprise a annoncé avoir ralenti temporairement certains travaux, notamment avec une pause de deux semaines dans l’entraînement par renforcement de ses modèles les plus récents destinés au déploiement. Son plus important entraînement de pointe prévu restait suspendu pendant que des évaluations et des mesures de sécurité supplémentaires étaient menées.

La difficulté vient du fait que l’IA accélère désormais la recherche en IA elle-même. Fortune a rapporté le 8 septembre qu’OpenAI utilisait l’équivalent de 3,1 journées de travail d’agents d’IA pour chaque journée de travail humaine au sein de son organisation de recherche. Le progrès ne dépend donc plus seulement du nombre de chercheurs ou de machines : les systèmes commencent à participer directement à la création de leurs successeurs.

Cette dynamique renforce l’argument de ceux qui estiment que le temps disponible pour construire les garde-fous pourrait se réduire. Plus les outils de recherche deviennent autonomes et efficaces, plus le passage d’une génération de modèles à la suivante peut s’accélérer. Une pause temporaire serait alors moins un renoncement qu’un moyen de rétablir un écart entre la vitesse des capacités et celle des mécanismes de contrôle.

Le 9 septembre, le débat s’est encore durci avec le départ d’un chercheur d’Anthropic. Jacob Coxon aurait quitté l’entreprise et l’industrie de l’IA en jugeant le rythme de développement trop rapide. Selon plusieurs médias, il considère qu’aucune entreprise ne peut gérer seule ces risques et qu’une réglementation publique ou un ralentissement coordonné de l’industrie est nécessaire.

Ces voix ne forment pas un bloc homogène. Les grands laboratoires continuent de développer de nouveaux modèles, et Pachocki lui-même insiste sur les bénéfices possibles d’une IA plus avancée. Mais le vocabulaire change : ralentissement, seuils de sécurité, audits, coordination internationale et pauses ciblées ne sont plus seulement des concepts défendus par des critiques extérieurs.

Père Bohdan apporte à cette discussion une formulation presque domestique. Nous disposons déjà d’outils puissants. Le coût d’un délai de quelques mois ou davantage doit donc être comparé non pas à un monde sans IA, mais à un monde qui continuerait simplement d’utiliser ce qu’il possède déjà pendant que les institutions se préparent à la suite.

Reste la question la plus difficile : qui décide du moment où la pause commence et du moment où elle peut se terminer ? Sans critères partagés, chaque laboratoire peut craindre de perdre la course en ralentissant seul. C’est précisément pourquoi les appels récents associent de plus en plus la prudence individuelle à des règles communes. L’enjeu n’est pas d’arrêter la technologie, mais de savoir si la société peut encore choisir son rythme.

Same event, other desks

Story file →