L’IA qui s’améliore toute seule : Les deux laboratoires de San Francisco, à l’origine de ChatGPT et Claude, décrivent un même point de bascule: l’»auto-amélioration récursive», stade où des IA pourraient «entraîner leurs successeurs, avec un rôle humain réduit», selon les mots d’Anthropic début juin. L’entreprise juge «plausible» de l’atteindre mais sans certitude. OpenAI en fait un objectif assumé et l’annonce «d’ici mars 2028» dans un texte publié lundi, reprenant une prévision de son patron Sam Altman à l’automne. Le ton est relativement optimiste chez les créateurs de ChatGPT, qui promettent une «IA personnelle» à chaque habitant de la planète, plus transformatrice que l’électricité ou l’automobile – une technologie «rendue résiliente» par la ceinture, le code de la route et le permis, écrivent-ils. Anthropic décrit aussi un bond potentiel pour la médecine, la technologie et l’économie mais son discours adopte une tonalité plus grave, évoquant explicitement les risques de «perte de contrôle». Mardi, il a rendu public Fable 5, une version bridée de son modèle de pointe, Mythos, en raison des risques de détournements pour des attaques cyber ou biologiques.
Ok pour ralentir, mais tous ensemble : «Il faut avoir la possibilité de lever le pied de l’accélérateur et de poser le pied sur le frein», a résumé la semaine dernière le cofondateur d’Anthropic, Jack Clark. D’où l’évocation d’une coordination internationale capable de freiner toute l’industrie, y compris les rivaux chinois ou Google, à contre-courant de la course actuelle aux meilleurs modèles et aux investissements faramineux. Anthropic a suggéré jeudi un «système de coordination mondiale» permettant de «suspendre temporairement le développement de l’IA de pointe». Mais seulement si aucun rival n’en profite pour prendre de l’avance, une condition jugée très improbable à court terme. OpenAI, dans son texte publié lundi, évoque aussi une organisation multilatérale, en mesure de «ralentir le développement de pointe si nécessaire». L’idée n’est pas neuve: Sam Altman parle depuis 2023 d’une sorte d’autorité internationale, à l’image de l’AIEA, le gendarme onusien du nucléaire, avec la possibilité de fixer un rythme annuel pour ajouter des compétences aux modèles de pointe. Trois ans plus tard, OpenAI et Anthropic publient de nouveaux modèles environ tous les mois. En février, Anthropic a retiré son engagement unilatéral à mettre en pause l’entraînement de modèles plus puissants tant que leur sûreté n’était pas démontrée. Sa charte distingue désormais ce que l’entreprise s’engage à appliquer quelle que soit la concurrence, et ce qu’elle recommande à tout le secteur mais sans s’y astreindre seule.
