IA pour diriger le monde ? (Deuxième partie)

Toutes grandes idées s'accompagnent d'effets imprévus, bons et mauvais. 

Commençons par ce qui est bien : dans quels domaines l'IA pourrait-elle surpasser le leadership humain, non pas nécessairement en tant que dirigeant, mais en tant que système d'aide à la décision ? En matière de politiques fondées sur des données probantes, l'IA pourrait analyser les données climatiques, la surpopulation, les modèles économiques et les tendances démographiques sans subir de pressions politiques. 

En termes de planification à long terme, elle pourrait exceller, car les êtres humains et leurs dirigeants politiques, souvent très myopes, ont tendance à privilégier les gains à court terme. L'IA pourrait optimiser les conditions de vie humaines pendant des décennies, voire des siècles. Devenue un outil de gouvernance mondiale, l'IA ne serait pas soumise aux frontières ni aux intérêts nationaux. Elle pourrait également être conçue et ajustée pour minimiser certains biais humains (même si elle peut aussi en hériter si elle n'est pas conçue avec soin).

Les sceptiques peuvent objecter qu'il existe des domaines où l'IA, telle que nous la concevons aujourd’hui, ne pourra jamais remplacer le leadership humain. Même l'IA la plus éthique a ses limites, notamment en termes de légitimité, car les citoyens acceptent un leadership lorsqu'il est responsable et humain. Or, en l'état actuel des choses, l'IA ne pourrait pas remplacer le consentement démocratique ni la légitimité culturelle. 

De plus, certains estiment que certaines décisions requièrent des valeurs humaines, de l'empathie et une expérience vécue. Se pose également la question de la responsabilité. Si une IA prend une décision néfaste, qui est responsable ? Il s'agit là d'une question éthique majeure non résolue. Parmi les autres limites, il existe des risques de mauvaise utilisation de l'IA, car tout système puissant peut être détourné par des gouvernements autoritaires, des entreprises ou des forces militaires. 

Même si l'IA est éthique, ses opérateurs ne le sont pas forcément. En réalité, la plupart des experts n'envisagent pas un remplacement des dirigeants par l'IA, mais plutôt son utilisation comme un outil de réflexion ou de conseil pour évaluer les politiques, prédire les conséquences à long terme et signaler les risques pour les droits humains. 

Elle pourrait jouer un rôle majeur dans la modélisation des impacts climatiques et des ressources et aider les dirigeants à éviter les décisions catastrophiques. Peut-être devrions-nous la considérer comme une gardienne de la pensée à long terme, alignée sur les Nations Unies, et non comme une dirigeante. 

Ce modèle hybride préserverait la responsabilité humaine, la légitimité démocratique et les nuances culturelles, tout en offrant des analyses fondées sur les données, une perspective planétaire à long terme et une réduction de l'impulsivité. Demain, nous verrons comment répondre concrètement à cette question …