L'essentiel
- Une partie des chercheurs juge qu'une vigilance immédiate s'impose face aux progrès rapides des grands modèles.
- D'autres estiment ces scénarios spéculatifs et appellent à traiter d'abord les risques déjà avérés.
- Tous s'accordent sur le besoin d'évaluations indépendantes, de transparence et de responsabilité.
Les arguments des uns
Les progrès rapides des grands modèles, la possibilité d'une amélioration récursive et la difficulté d'aligner les objectifs d'un système très capable sur des valeurs humaines justifient, selon plusieurs chercheurs, une vigilance immédiate.
Les arguments des autres
D'autres chercheurs estiment ces scénarios spéculatifs et jugent qu'ils détournent l'attention des risques avérés : biais, surveillance, désinformation, concentration économique et coûts environnementaux.
Ce qui fait consensus
La nécessité d'évaluations indépendantes, de transparence sur les données et les capacités, et de mécanismes de responsabilité. Ces points figurent dans les déclarations internationales comme dans le règlement européen.
Comment lire ce débat
Distinguer les affirmations testables des prospectives, vérifier les intérêts des auteurs, et se méfier des raisonnements qui ne pourraient être contredits par aucune observation. Pour les définitions de base, voir le guide de la superintelligence artificielle.