« Il n’y a pas de prise de décision sans politique». C’est peut-être le point le plus fondamental soulevé par Henry Farrell, Abraham Newman et Jeremy Wallace, qui, dans leur long article paru dans Foreign Affairs, ont traité de l’impact de Intelligence artificielle dans l’élaboration des politiques et dans la rétroaction politique dans les régimes démocratiques et autoritaires les États-Unis d’Amérique et Chine respectivement.

Comme ils le soulignent, AI oppose les démocraties et les régimes autoritaires à des problèmes tout aussi importants mais différemment structurés. Les plus fondamentaux d’entre eux sont les changements que l’IA apporte dans l’interaction dynamique (tentative) de contrôle social et de rétroaction des systèmes politiques à partir des tendances, opinions et perspectives évoluant dans la sphère sociale.

• Lire aussi : France : L’intelligence artificielle au service du fisc

Alors si dans les démocraties l’un des problèmes causés par l’apprentissage automatique du monde en ligne est de favoriser la division politique et de répandre la désinformation, dans les régimes autoritaires le risque est surtout de créer une fausse image de consensus et de masquer les menaces (chacune) des cracks du régime qui sont apparus au sein des sociétés.

L’objectivation des préjugés

Dans le même temps, la technologie elle-même développe une dynamique propre qui peut conduire à «l’objectivation» des divisions et des préjugés sociaux – et c’est une menace très réelle pour les démocraties. Une évolution plus dangereuse dans les régimes autoritaires où il n’existe aucune garantie qui assurerait la publication, la condamnation et l’exigence de l’élimination de ces préjugés. Et en « aveuglant » les dirigeants autoritaires, la dynamique de l’IA peut simplement créer l’illusion que « tout va bien », ce qui peut conduire à des décisions mal informées – qui peuvent avoir des conséquences désastreuses (pour les auteurs, un tel cas est l’invasion de l’Ukraine par Poutine). ). .

• Lisez aussi: L’intelligence artificielle de Google a révélé les structures de toutes les protéines connues de la science

Aussi, comme mentionné de manière caractéristique dans Affaires étrangères, « les préjugés peuvent s’infiltrer dans le code » et créer une spirale auto-alimentée dans laquelle les problèmes sociaux « s’auto-renforcent ». L’objectivation de la stigmatisation par l’intelligence artificielle d’un groupe social, qui est pourtant avant tout une création humaine, ne fait que reproduire le stéréotype qui a conduit à la stigmatisation initiale, dans une évolution qui menace le plus la démocratie. Et plus les décideurs traitent l’intelligence artificielle comme quelque chose d’objectif et d’infaillible, plus grand est le danger qu’un « monstre » technocratique émerge des « entrailles » des sociétés (démocratiques).

La vraie question

Condensant leur regard sur les dangers posés séparément pour les démocraties et les régimes autoritaires par la « divinisation » de l’intelligence artificielle, les auteurs précisent :

« Les données semblent fournir des mesures objectives qui expliquent le monde et ses problèmes sans les risques politiques et les ennuis des élections ou des médias libres. Mais ça ne marche pas sans politique. Le désordre de la démocratie et le danger de boucles de rétroaction dysfonctionnelles sont évidents pour quiconque étudie la politique américaine.

Les autocraties souffrent de problèmes similaires, bien qu’ils soient moins évidents. Les responsables qui falsifient les chiffres, ou les citoyens qui refusent de canaliser leur colère dans des manifestations à grande échelle, peuvent avoir des conséquences désastreuses, prendre de mauvaises décisions à court terme et l’échec du régime plus probable à long terme.

Ils concluent que la vraie question n’est pas de savoir si les États-Unis ou la Chine gagneront la « course » à la domination de l’intelligence artificielle. En fait, il s’agit de la façon dont l’IA transforme le processus de rétroaction dont les régimes démocratiques et autoritaires ont besoin. Et ce processus ne reçoit pas l’attention qu’il mérite.