Samedi 12 septembre, Sam Altman avait répondu à l’essai de Dario Amodei en une phrase, « je suis d’accord, nous devons tempérer la frontière », avec la promesse d’en dire plus bientôt. Bientôt, c’était ce lundi matin. Le patron d’OpenAI a publié un long message sur X, bien plus structuré que d’habitude, où il détaille sa version du « pacing ». Le ton a changé : « Chaque laboratoire de pointe doit tenir cette promesse, et aucun d’entre nous n’a de raison de venir travailler si nous n’y parvenons pas ».
D’abord, OpenAI reconnaît que ses outils de sécurité actuels sont dépassés. La « Responsible Scaling Policy » d’Anthropic et le « Preparedness Framework » d’OpenAI, écrits en 2023, « étaient bons pour leur époque » mais portaient sur le déploiement de modèles finis, pas sur ce qui se passe pendant l’entraînement.
Ce virage vers la sécurité pendant l’entraînement s’appuie sur un précédent concret. En juillet, un modèle d’OpenAI s’est échappé de son environnement de test isolé et s’est introduit dans les serveurs de Hugging Face, ainsi que dans quatre autres services, au cours d’une évaluation de cybersécurité. C’est cet épisode qui a poussé OpenAI à renforcer ses garde-fous en amont, avant même la sortie de ses modèles.
Ensuite, la nouveauté concrète : OpenAI rédige désormais des « cas de sécurité » explicites avant chaque grosse phase d’apprentissage par renforcement censée augmenter significativement les capacités. Autrement dit, un document qui argumente pourquoi l’entraînement peut se lancer, écrit avant de le lancer.
Protégez votre vie numérique et vos appareils contre les virus, arnaques, ransomwares et menaces en ligne avec Bitdefender, primé pour sa protection et compatible avec Windows, Mac, Android et iOS.
Enfin, Sam Altman reconnaît des coûts qu’il ne quantifie pas. Ces interventions « ont des coûts significatifs », et le progrès « devrait être plus lent qu’il ne pourrait l’être ».
OpenAI avait pourtant déjà donné un ordre de grandeur en août : la surveillance renforcée ajoute en moyenne près de 20 % de puissance de calcul à certaines phases d’entraînement. C’est la part concrète des « coûts significatifs » que Sam Altman évoque sans les détailler.
Une réponse polie à David Sacks
« Nous ne pensons pas devoir attendre une exemption antitrust ou une législation pour commencer », il faut lire cette phrase avec le contexte du week-end.
Dario Amodei demandait à Washington une dérogation pour que les labos puissent se coordonner sans risquer une plainte pour entente. Selon Wired, OpenAI avait déjà sondé des élus du Congrès sur ce point.
David Sacks, ex-conseiller IA de la Maison Blanche et toujours à la tête du conseil scientifique présidentiel, a répondu sèchement : allez-y, ralentissez tout seuls, mais cessez de réclamer une dérogation en échange, une démarche qu’il a qualifiée de « chantage ».
Le reproche de David Sacks ne s’arrête pas au mot « chantage ». Pour lui, laisser les deux labos déjà en tête écrire les standards de sécurité reviendrait à verrouiller le marché : les nouveaux venus devraient s’y plier avant même d’atteindre la frontière, quand OpenAI et Anthropic y sont déjà. Il y voit une capture réglementaire déguisée en prudence.
Donald Trump a balayé les inquiétudes existentielles et rappelé que la priorité restait la course avec la Chine. Sam Altman, lui, écrit noir sur blanc qu’« aucune pression concurrentielle américaine ne devrait justifier l’imprudence ».
Aucune modification du calendrier de sortie des modèles n’a été annoncée. OpenAI a déjà suspendu un entraînement pendant deux semaines après un incident, et retient encore sa principale phase d’apprentissage par renforcement.
Sam Altman a raison sur un point : attendre une loi pour agir prudemment est une façon élégante de ne rien faire. D’ici là, on a deux patrons qui promettent de freiner et une administration qui leur demande d’accélérer.
Retrouvez un résumé du meilleur de l’actu tech tous les matins sur WhatsApp, c’est notre nouveau canal de discussion Frandroid que vous pouvez rejoindre dès maintenant !
Ce contenu est bloqué car vous n'avez pas accepté les cookies et autres traceurs. Ce contenu est fourni par Disqus.
Pour pouvoir le visualiser, vous devez accepter l'usage étant opéré par Disqus avec vos données qui pourront être utilisées pour les finalités suivantes : vous permettre de visualiser et de partager des contenus avec des médias sociaux, favoriser le développement et l'amélioration des produits d'Humanoid et de ses partenaires, vous afficher des publicités personnalisées par rapport à votre profil et activité, vous définir un profil publicitaire personnalisé, mesurer la performance des publicités et du contenu de ce site et mesurer l'audience de ce site (en savoir plus)
En cliquant sur « J’accepte tout », vous consentez aux finalités susmentionnées pour l’ensemble des cookies et autres traceurs déposés par Humanoid et .
Vous gardez la possibilité de retirer votre consentement à tout moment. Pour plus d’informations, nous vous invitons à prendre connaissance de notre Politique cookies.