Une étude de DeepMind relance le débat sur l'émergence des capacités

Une nouvelle publication de DeepMind remet en question l'idée que certaines capacités des grands modèles de langage "émergent" brutalement à partir d'une certaine taille.

Le cœur de l'argument

Les auteurs montrent que plusieurs métriques utilisées pour mesurer ces sauts de performance sont non linéaires par construction, ce qui crée une illusion de rupture soudaine là où la progression réelle des capacités du modèle est en fait progressive.

Des implications pour la recherche en sécurité

Si cette lecture se confirme, elle change la manière dont les équipes de sécurité doivent anticiper l'apparition de capacités dangereuses : plutôt que de surveiller un seuil critique, il faudrait suivre une tendance continue, mesurable bien avant qu'elle ne devienne préoccupante.

Réactions de la communauté

Plusieurs laboratoires concurrents ont salué la rigueur méthodologique de l'étude tout en soulignant qu'elle ne teste que quatre familles de modèles, ce qui limite la portée des conclusions à ce stade.