Conseil de l'Europe: Le Maroc Met en Lumière les Aspects Cognitifs et Perceptifs pour Évaluer l'Intelligence Artificielle

La secrétaire d'État chargée de laTransition numérique et de la réforme administrative, Amal El Fallah Seghrouchni, a mis en avant mardi à Paris l'importance d'inclure les aspects cognitifs et perceptuels lors de l'évaluation des technologies liées à l'intelligence artificielle (IA).

Cet accord va faciliter une meilleure régulation des technologies IA et garantir durablement la liberté d'expression ainsi que le développement du discernement au sein de nos sociétés démocratiques, comme l'a souligné la ministre à l'occasion de la troisième session du Groupe d'experts sur les conséquences de l'intelligence artificielle génératrice pour la liberté d'expression (MSI-AI) auprès du Conseil de l'Europe.

En exprimant ses réflexions sur les changements discrets qui se produisent dans nos sociétés grâce à l'IA générative, Seghrouchni a souligné qu'alors que certaines conséquences peuvent être quantifiées, d'autres - en particulier celles touchant la cognition et la perception - restent bien plus difficiles à évaluer.

Un des défis importants, selon elle, est la possibilité pour ces technologies de renforcer des méthodes d'influence subtiles comme le nudging, grâce à la voix, aux expressions faciales ou encore à une interaction émotionnelle simulant l'affection.

En précisant que l'IA générative va au-delà de la simple production de contenu pour amplifier notre façon de percevoir le monde et modifier nos façons d'y répondre, la ministre a donné en exemple la formation rapide d'un lien émotionnel entre un adulte et un robot ayant une apparence juvénile en seulement 30 minutes. Elle a souligné que cet échange montre comment l'attachement, la perception ainsi que les comportements peuvent être aisément influencés sans même que les usagers s'en rendent compte.

Dans ce cadre, elle a remis en question la capacité des entreprises à mesurer ces impacts, particulièrement chez ceux qui sont le plus exposés aux risques : les enfants, les individus avec un handicap et aussi les citoyens vivant dans des situations où leur cognition est déjà compromise. Elle s'est également posé la question de savoir si, après que l'esprit a été transformé par ces technologies, il peut y avoir un retour en arrière possible ? Existe-t-il une manière de "neutraliser" cognitivement cette intelligence artificielle générative?, s'est-elle interrogeée.

Cette action se situe dans un contexte éthique et légal en constante transformation, car certains pays avaient déjà accordé des droits cognitifs en 2020, ce qui a ouvert une nouvelle perspective pour la réflexion sur les libertés essentielles au temps desalgorithmes.

Le groupe d'experts spécialisés dans l'étude des effets de l'intelligence artificielle créative sur le droit à l'expression doit élaborer une proposition de directives concernant les conséquences de cette technologie sur la liberté d'expression avant la fin de l'année 2025.