Dr Emmanuel Goffi : «le monde arabo-musulman représente une richesse pour l'intelligence artificielle» Le Dr

Pour l’heure, la dimension culturelle de l’éthique appliquée à l’IA ne correspond donc pas à la tendance au conformisme éthique, justifiée par des raisons stratégico-économiques
Le deep learning (DL) est une branche du ML qui utilise plusieurs couches (layers) de réseaux de neurones (neural networks), c’est à dire de strates d’algorithmes qui se superposent pour affiner l’apprentissage
De nombreux experts parlent maintenant de l’Intelligence artificielle/IA comme la panacée du développement économique et social. On distingue les grands acteurs que sont la Chine, les USA, une mobilisation forte de la Russie et de l’Union européenne. Le Dr Emmanuel Goffi, philosophe, spécialiste de l’IA, a été un des premiers experts à souligner les ambitions et les potentiels du monde arabe. Nous lui donnons la parole afin de comprendre en quoi ces ambitions sont justifiées et quelles sont les perspectives qui attendent ces territoires.



Dr Goffi, à la lecture d’une abondante littérature sur l’Intelligence artificielle et ses enjeux, on a de quoi être un peu perdu. Le vocabulaire mélange des concepts nouveaux (deep learning, machine learning, réseaux neuronaux…), les usages et la réglementation. Pouvez-vous nous aider à y voir plus clair ?

Il est, en fait, extrêmement difficile de catégoriser ces différentes dimensions de l’intelligence artificielle puisque l’IA est, elle-même, indéfinissable, notamment du fait que les lemmes qui composent ce mot composé sont eux-mêmes indéfinissables. L’IA est dans les faits un OTNI, un objet technique non identifié.

Bien qu’il en existe pléthore de définitions, de manière générale, on considère que l’IA renvoie à des systèmes algorithmiques capables d’effectuer des tâches habituellement dévolues à l’intelligence humaine (trompeusement appelée intelligence naturelle).

Dans ce cadre, le machine learning (ML) fait référence à des systèmes utilisant des algorithmes traitant des données pour « apprendre ». Par exemple, en traitant des images diverses d’un même objet, disons un vélo, le système va être entraîné à identifier des vélos sur des images ou sur des vidéos. L’algorithme va donc apprendre à partir des données (data) qui lui sont fournies et améliorer sa capacité à obtenir le résultat attendu, en l’occurrence, l’identification des vélos. L’efficacité du processus dépendra évidemment de la quantité de données fournies, mais aussi de leur qualité.

Le deep learning (DL) est une branche du ML qui utilise plusieurs couches (layers) de réseaux de neurones (neural networks), c’est à dire de strates d’algorithmes qui se superposent pour affiner l’apprentissage. Pour reprendre le cas précédant, le DL va permettre dans un premier temps d’identifier les vélos de manière générale; il pourra ensuite apprendre à les identifier à partir d’une partie de vélo, disons les roues ou la selle. Il pourra enfin, au travers d’une troisième couche, les différencier d’un environnement complexe où sont présents de nombreux objets différents. Les réseaux neuronaux sont simplement les différentes couches d’algorithmes utilisés pour faire du DL. On peut ainsi multiplier les couches pour rendre le système de plus en plus précis et donc efficace. Dans les systèmes complexes, le DL permet de faire des liens entre les différentes couches et d’en déduire des inférences qui permettront d’affiner les résultats attendus. Le système pourra également améliorer ses propres processus de fonctionnement internes en créant de nouveaux liens entre les « neurones » pour apprendre à apprendre.

Pour ce qui est des réseaux neuronaux, ils sont constitués des différentes couches d’apprentissage, à savoir la couche des données d’entrées (input layer), les différentes couches de neurones (deep neural network), et la couche de résultat (output layer). Le nom renvoie lui-même au système d’apprentissage du cerveau humain qui collecte des données, les traite et produit un résultat.

Tous ces concepts reposent sur un parallélisme avec le fonctionnement du cerveau humain; ce qui peut être trompeur puisque les possibilités de notre cerveau sont extrêmement vastes et couvrent de multiples dimensions alors que les systèmes d’IA sont spécialisés et limités dans leurs possibilités. Un système pouvant gagner au jeu de Go ne pourra pas, par exemple, reconnaitre des vélos. Par ailleurs, les systèmes actuels fonctionnent sur des statistiques et des probabilités et n’intègrent pas de dimensions émotionnelles. Ils ne peuvent pas non plus « penser » l’abstrait.

De fait, réglementer des systèmes est éminemment complexe en raison de la diversité de ces systèmes en termes de finalités, de capacités, de performances, de potentialités, de risques et de bénéfices. Par exemple, il est souvent difficile, si ce n’est impossible de comprendre parfaitement ce qui se passe dans des systèmes de DL complexe. Leur fonctionnement nous échappe (on parle alors de black box), leurs résultats deviennent imprévisibles en tout ou partie et donc leur régulation devient quasi impossible.



Emmanuel, en tant que personne, vous semblez avoir vécu plusieurs vies : militaire, chercheur, philosophe… Vous avez voyagé et vécu à l’étranger. Ces expériences humaines vous ont guidé et préparé dans votre travail de philosophe. Pourquoi êtes-vous un des seuls à souligner la dimension culturelle ?

Je note quelques frémissements dans le domaine, ici ou là, mais rien de vraiment conséquent ni déterminant.

Le problème principal, avec l’approche culturelle de l’éthique appliquée à l’IA, est qu’elle va l’encontre des intérêts des acteurs de l’IA. La tendance actuelle est de contrôler ce champ prometteur financièrement et stratégiquement. Or, le meilleur moyen de contrôler sans recourir à la violence est de normaliser. C’est ce que l’Union européenne (UE) et plus généralement le monde occidental ont parfaitement compris : celui qui réussit à imposer ses normes contrôle le champ ainsi normé. Si je fixe le cadre normatif, je limite les possibilités des autres acteurs et je peux donc mieux influer sur leur comportement en les amenant à adopter des attitudes qui vont dans le sens de mes intérêts. Il y a d’excellents travaux en constructivisme social sur l’importance des normes dans la définition des comportements. On trouve aussi de très intéressantes perspectives en sociologie ou en philosophie, notamment avec les réflexions de Michel Foucault sur la gouvernementalité.

D’un point de vue pratique, on constate une certaine homogénéité de vocabulaire dans les normes éthiques établies à travers le monde. On constate surtout que les documents relatifs à l’éthique appliquée à l’IA sont très souvent inspirés des textes européens par exemple. Cela prouve que l’UE à un pouvoir d’influence extrêmement fort et qu’elle est donc capable de modifier les comportements des acteurs de l’IA. L’UE est devenue une puissance normative dans le domaine de l’IA, bien consciente de son incapacité à rivaliser avec les deux géants du secteur que sont les États-Unis et la Chine.

Comme le marché est aujourd’hui essentiellement contrôlé par l’Occident, il est dans l’intérêt de tous les acteurs de se conformer aux exigences de l’Occident et donc d’adopter les positionnements axiologiques occidentaux.

De fait, toute tentative de remise en question de cette domination culturelle par l’éthique est vue comme potentiellement dangereuse. Je fais le pari que cette situation basculera dès que la Chine, ou d’autre acteurs comme l’Inde, la Russie ou certains pays de la péninsule arabo-persique, auront atteint un degré de maîtrise de l’IA qui leur permettra de peser sur le marché. A ce moment-là, le rapport de force évoluera et les nouveaux maîtres de l’IA voudront à leur tour imposer leurs propres règles fondées sur leurs propres approches en fonction de leurs propres intérêts. Dès lors, ils refuseront de se plier à des normes qui ne représentent pas leurs valeurs et tout le corpus éthique développé par l’Occident s’effondrera.

Pour l’heure, la dimension culturelle de l’éthique appliquée à l’IA ne correspond donc pas à la tendance au conformisme éthique, justifiée par des raisons stratégico-économiques.

Même le monde universitaire évite ce débat, trop occupé qu’il est à vendre des formations en « éthique de l’IA », calées sur les attentes des entreprises qui veulent se conformer aux normes établies, plutôt qu’à initier des réflexions de fond sur le sujet. La logique économique pèse de tout son poids sur la réflexion : on ne vend bien que ce que les clients sont prêts à acheter ; or, tout le monde veut acheter des solutions simples à des problèmes complexes. Il faut donc vendre des idées convenues entrant sur une diapositive en quatre bullet points faciles à assimiler et donnant le sentiment de simplicité et d’efficacité au client. Cela rassure les clients confrontés à une complexité qu’ils ne parviennent pas à surmonter. Entrer dans le débat de la culture reviendrait à faire l’inverse en ajoutant de nouveaux degrés de complexité. Personne ne veut payer pour ça.

Il faut garder à l’esprit que l’IA génère beaucoup d’argent et qu’il existe aujourd’hui un véritable business de l’éthique de l’IA. Pour en bénéficier, il faut jouer en suivant les règles établies. Toute approche divergente est donc vue avec défiance.



A l’époque de la globalisation et dans une recherche de grandes masses de données, en quoi les spécificités économiques, culturelles, du ou des mondes arabo-musulmans, sont importantes à considérer.

Toutes les cultures doivent être également considérées. Je suis souvent accusé de relativisme, mais ce que je défends, c’est le droit que chacun a à avoir sa propre opinion, ses propres convictions, ses propres perspectives éthiques. Je peux ne pas être d’accord ou ne pas adhérer avec tel ou tel point de vue philosophique, politique ou spirituel, mais je ne peux pas nier aux acteurs concernés le droit d’avoir ces points de vue. De la même manière que je ne veux pas qu’un pays tiers vienne dire à la France ce que devraient être ses valeurs, je rejette toute velléité de la France d’imposer ses valeurs à d’autres pays.

C’est la diversité des perspectives qui fait la richesse de la réflexion et la pertinence de la décision. C’est un principe mille fois répété dans les entreprises : la collaboration amène la diversité qui fait la richesse des débats. C’est un principe également promu par les Nations Unies au nom de la coopération internationale sur laquelle reposent la stabilité et la paix du monde. L’UNESCO fait, quant à elle, de la défense de la diversité culturelle « un impératif éthique ».

A ce titre, le monde arabo-musulman, comme d’autres aires culturelles et géographiques, représente une richesse essentielle aux réflexions sur le développement et l’utilisation de l’IA. C’est une richesse en ce qu’elle peut apporter une vision différente de la vision dominante occidentale. C’est une richesse en ce qu’elle peut apporter une gamme de perspectives extrêmement variée, étant entendu que le monde arabo-musulman n’est, pas plus que le monde occidental, homogène.

Le rapport à la vie et à la mort, aux autres, à la technologie, à la politique, à la spiritualité et à mille autres choses, varie d’une culture à une autre et détermine les positionnements axiologiques et philosophiques sur tous les domaines de l’activité humaine, et donc sur le développement et l’utilisation de l’IA.

Le monde arabo-musulman est riche d’une culture multiséculaire qu’il me parait incongrue de rejeter pour des motifs géopolitiques mal maîtrisés. Arabie Saoudite, Emirats arabes unis, Egypte ou Royaume du Maroc, les potentialités économiques de ces pays sont immenses. En fait, c’est réellement une sorte de nouvelle étape dans le développement du Mashrek et du Maghreb : les investissements croissent et on voit de nombreuses initiatives se mettre en place, démontrant à la fois la prise en compte par les gouvernements concernés de l’importance et du potentiel de l’IA, mais aussi de ses débouchés économico-stratégiques.

Si le cadre normatif reste focalisé sur des problématiques occidentales, analysées au travers d’un prisme occidental, avec des solutions occidentales, l’IA ne pourra jamais être bénéfique pour le plus grand nombre. Faut-il rappeler que l’Occident ne représente qu’à peine 15% de l’humanité, tandis que le seul monde musulman en représente plus de 20 % ?





Quand on analyse le Moyen-Orient, on réalise la volonté des dirigeants actuels de donner à leurs pays toutes les chances de figurer dans le peloton de tête mondial des États développés dans les prochaines décennies. Il s'agit d'utiliser toutes les ressources financières actuelles, émanant principalement des hydrocarbures, pour assurer une vie post-hydrocarbures. Pensez-vous réellement que « Data is the new oil ? »

Oui. Clairement les données sont le nouvel or noir. J’ai eu l’occasion de l’écrire : les données sont la nouvelle ressource stratégique que les acteurs privés et publics se disputent déjà et se disputeront avec toujours plus de véhémence, potentiellement avec violence. La course à l’IA implique aujourd’hui, pas moins de 62 Etats et un nombre incalculable de compagnies privées. Comme l’IA se nourrit de données, ces dernières deviennent fondamentales. Leur quantité comme leur qualité sont déterminantes pour alimenter les systèmes d’IA et assurer leur efficacité. Un pays comme la Chine a ainsi accès à un réservoir de données domestique inégalé. Les enjeux sont colossaux. Selon PWC, l’IA pourrait contribuer à hauteur de 15,7 billions de dollars à l’économie mondiale en 2030. L’impact potentiel pour le seul Proche-Orient pourrait atteindre 320 milliards de dollars, 13,6% du produit intérieur brut des Émirats arabes unis, 8,2% du PIB du GCC-4 (Gulf Cooperation Council).

L’Union européenne ne s’y est pas trompée et a intégré l’importance des données dans sa stratégie en inscrivant clairement dans son Livre blanc qu’elle voulait « devenir un acteur mondial de premier plan en matière d’innovation dans l’économie fondée sur les données et dans ses applications ».

Nous le savons, les hydrocarbures sont un élément fondamental de la puissance des pays du Proche-Orient ou encore de l’Algérie. Certains d’entre eux ont déjà fait le choix de diversifier leurs sources de revenus en s’ouvrant à de nouveaux secteurs d’activités tels que le tourisme. Cette diversification est stratégique et évite de faire reposer un modèle économique sur un seul type de ressource dont la pérennité n’est pas garantie. L’IA et son carburant que sont les données représentent une opportunité pour ces pays. S’ils la laissaient leur échapper, ou s’ils consentaient à ce que le développement et l’utilisation de l’IA, comme la collecte et le traitement des données, soient régulés par l’Occident, ils se priveraient d’une manne essentielle à leur croissance et à leur positionnement sur la scène internationale. C’est une option inenvisageable.

L’Arabie Saoudite, les Émirats arabes unis ou encore Bahreïn ont bien saisi les enjeux liés aux données et à l’IA. Ils doivent maintenant affirmer leurs singularités, développer leurs visions spécifiques, défendre leurs intérêts et imposer leurs voix dans les débats en promouvant leurs valeurs.

Il y a des moyens financiers considérables dans cette région du monde. Associés à la prise en compte du développement croissant de l’IA, une forte volonté politique, une vraie dynamique de recherche et une stratégie calibrée, le Proche-Orient pourrait s’élever au rang de puissance de l’IA très rapidement. Les conditions sont d’ores et déjà réunies pour atteindre cet objectif. Il faut maintenant définir des stratégies pragmatiques libérées de l’influence occidentale.





Le mot-même d’« algorithme » viendrait du nom du mathématicien persan Muhammad ibn Musa al-Khwarizmi qui introduisit en Occident la numération décimale. Quand on regarde les ambitions de l’Arabie Saoudite (« Vision 2030 »), des Émirats arabes unis (« Vision des EAU sur l'Intelligence artificielle »), pensez-vous que l’Intelligence artificielle puisse devenir un élément de la Renaissance arabe ?

Je pense que l’intelligence artificielle peut être un moteur pour une renaissance de la pensée arabo-musulmane. Un des grands intérêts de l’IA, qui n’est malheureusement jamais évoqué, c’est que cette technologie nous impose une réflexion approfondie sur nous-mêmes. Pour dupliquer le cerveau humain, il faut en comprendre le fonctionnement et entrer dans sa complexité. On a redécouvert, par exemple, grâce à l’IA, que nos cerveaux fonctionnent sur des biais. On s’interroge sur ce que veut dire « humain » en comparaison de « machine ». On questionne notre pérennité, notre pertinence, nos choix. On se replonge, bien trop peu à mon sens, dans les questionnements éthiques. On ré-explore la notion de responsabilité.

Ce faisant, on (re)découvre des notions philosophiques sur lesquelles on se positionne et autours desquelles on discute à défaut de débattre. C’est au travers de ces réflexions que sont communiqués les points de vue, qu’ils sont confrontés les uns aux autres, qu’ils s’imposent ou sont imposés.

Ce que je veux dire, c’est que le monde arabo-musulman a ici une occasion unique de faire connaitre la richesse de sa culture, l’histoire de sa pensée, son dynamisme intellectuel, ses capacités d’innovation. Il a la possibilité, grâce à l’IA, non pas de renaître puisqu’il n’est jamais mort, mais de se faire connaitre sous un jour différent de celui, très étriqué, des questions géopolitiques et des idées préconçues construites sur un manque de connaissance de sa diversité et de sa richesse culturelle.

Le monde arabo-musulman devrait saisir cette opportunité pour faire dépoussiérer son image, pour avancer ses idées et influer sur le cours des choses, pas seulement dans le domaine de l’IA.

Pour les constructivistes, le langage est le principal vecteur des idées qui influent sur les perceptions et donc sur les comportements. Il faut donc que les acteurs du monde arabo-musulman, privés et publics, s’emparent du sujet, développent des approches inédites fondées sur leurs valeurs spécifiques, et, surtout, communiquent vers l’extérieur.

La dynamique existe. Elle manque juste de visibilité.

Je pense qu’il faut des contrepoids à la domination culturelle occidentale, et je suis convaincu que l’un de ces contrepoids doit venir du monde arabo-musulman. Non pas pour créer des tensions ou polariser le débat sur l’éthique appliquée à l’IA, mais pour dynamiser ce débat, l’enrichir de nouvelles perspectives et s’assurer que, dans un cadre de gouvernance globale de l’IA, les normes établies profitent à tous dans le respect de tous.

Il y a indiscutablement, avec l’IA, une carte à jouer pour une revitalisation des pensées arabo-musulmanes. Mais il faut que cette carte soit jouée dans un cadre bottom up, c’est-à-dire en partant d’une réflexion locale, et non top down comme c’est le cas aujourd’hui, c’est-à-dire fondée sur l’adoption de principes édictés par d’autres, en l’occurrence l’Occident. C’est là que le multilatéralisme devient important : chaque culture doit pouvoir apporter sa pierre à l’édifice complexe de gouvernance de l’IA, et ce quelle que soit la nature ou la supposée qualité de cette pierre. Il en va, selon moi, de la survie des cultures et de leur rayonnement.





Interview du Dr Goffi mené par Philippe Blanchard

Philippe Blanchard a été Directeur au Comité International Olympique puis en charge du dossier technique de Dubai Expo 2020. Passionné par les méga-événements, les enjeux de société et la technologie, il dirige maintenant Futurous, les Jeux de l’Innovation et des sports et esports du Futur.