L’intelligence artificielle au Maroc : entre encadrement réglementaire et stratégie économique

Introduction

L’intelligence artificielle est entrée dans le langage et l’imaginaire communs, tellement les progrès en matière de cette technologie se sont accrus de manière exponentielle. On entend par cette notion les théories et les techniques mises en œuvre en vue de réaliser des machines capables de simuler l'intelligence humaine, voire des systèmes autonomes en mesure d’accomplir des tâches complexes que l’on croyait jusqu’à un passé récent, réservées à l’intelligence naturelle. Il ne s’agit plus de la mise en œuvre d’un programme par la volonté et sous le contrôle de l’être humain, mais du développement d’une forme de pensée qui, bien que conçue par l’homme, tend dans une certaine mesure à s’en émanciper. Pierre angulaire de la quatrième révolution industrielle, l’intelligence artificielle est également source de nombreuses interrogations. D’une part, elle comporte des risques de perte de maitrise de cette technologie, de surcroît aggravée par une éventuelle émergence d’une société mécanisée en mesure de se substituer à la traditionnelle société humaine. D’autre part, la diffusion rapide des algorithmes de l’intelligence artificielle soulève les défis d’encadrement juridique par rapport à l’exercice des libertés et des droits fondamentaux, alors qu’il n’existe encore aucun texte juridiquement contraignant en droit international qui réglemente l’usage de cette technologie. Au Maroc, la Constitution de 2011 garantit les libertés et droits fondamentaux. À l'échelle de l'Union africaine (UA), les libertés et droits fondamentaux sont principalement protégés par la Charte africaine des droits de l’homme et des peuples de 1981. Au niveau international, la Déclaration universelle des droits de l'homme et du citoyen de 1948 de l'Organisation des Nations unies énonce les principaux droits fondamentaux et libertés. Chaque être humain peut en principe se prévaloir de ceux-ci. Il est donc nécessaire de trouver un équilibre entre l'utilisation de l'intelligence artificielle au service du développement et de l’humain, et la protection des libertés et droits fondamentaux, pour un développent plus inclusif, plus durable et maitrisé. Cette configuration suppose d’adapter la réglementation en vigueur en définissant une nouvelle génération de garanties et de droits fondamentaux spécifique au numérique, permettant l’épanouissement des libertés individuelles face aux risques que représente l’intelligence artificielle.

I. Le corpus juridique digital et numérique marocain

La multiplication des moyens de communication et d’information est devenue une préoccupation majeure de nos sociétés modernes, tellement ils sont devenus un outil incontournable de communication et d’échanges en tous genres. Cette configuration a précipité l’éclosion des droits numériques, considérés dans la terminologie juridique du droit international des droits de l’homme comme les droits de la quatrième génération. Cependant, le développement des réseaux sociaux et du e-commerce symbolisant l’exercice des libertés et droits numériques, fait aussi peser des risques sur les informations personnelles de leurs utilisateurs, exacerbant la protection de ce qu’un bon nombre de juristes appellent l’ordre public numérique. Dans cette perspective, et afin d’être en adéquation avec les législations internationales en la matière, tout en évitant toute forme de dérive juridique, le législateur marocain est intervenu pour règlementer la protection des libertés et droits numériques, en prévoyant un arsenal juridique à caractère préventif mais aussi répressif. Dans la même veine, les contraintes économiques ont été prises en considération pour faire en sorte que la loi ne constitue pas un frein au développement commercial.

A. Les engagements juridiques du Maroc en vertu des textes internationaux

Les libertés et les droits numériques ont émergé en réponse aux questions posées par l’essor numérique. S’ils sont souvent présentés comme se rattachant respectivement au droit à la vie privée et à la liberté d’expression, leurs enjeux sont en réalité plus larges et peuvent être considérés comme des droits fondamentaux autonomes. C’est incontestablement le cas de la liberté d’expression numérique, de la liberté d’information numérique, de la liberté d’association numérique, ou encore de la liberté d’entreprendre numérique qui impliquent désormais le droit à une existence numérique. Ainsi, et dans le cadre de l’affaire Cengiz et autres c. Turquie en 2015, la Cour européenne des droits de l’homme de Strasbourg a affirmé que la liberté numérique ne favorise pas seulement la liberté d’opinion, mais facilite également l’exercice de la liberté.1 Pour d’autres droits, toutefois, comme le droit à la sécurité, le droit de la propriété intellectuelle, ou le droit commercial, le numérique se présente davantage comme un risque, auquel le législateur doit parer, à l’image du droit au respect de la vie privée et familiale qui constitue l’exemple typique des risques dont l’ampleur ne cesse de s’accroitre par le développement d’internet. En vue de mettre le numérique au service des droits individuels et de l’intérêt général, il était donc indispensable de repenser les modes de protection des droits fondamentaux afin de les adapter aux aléas de la révolution numérique, ainsi qu’aux textes internationaux en vigueur.

Il en va que la nécessité de réglementer la protection des données à caractère personnel a été dictée au législateur marocain, non seulement par des impératifs économiques mais également par des impératifs d’adéquation de la législation nationale avec les principes relatifs aux droits humains énoncés dans des textes fondamentaux internationaux et nationaux, tels que définis par la Charte internationale des droits de l’homme. Ainsi, le 10 décembre 1948, les 58 États membres qui composaient alors l’Assemblée générale de l’ONU, ont adopté la Déclaration universelle des droits de l’homme. Ce texte, signé et ratifié par le Maroc, énonce les droits fondamentaux de l’individu, leur reconnaissance et leur respect par la loi et insiste sur la nécessité du respect inaliénable de ces droits fondamentaux par tous les pays. L’article 12 de cette Déclaration stipule : « Nul ne sera l’objet d’immixtions arbitraires dans sa vie privée, sa famille, son domicile ou sa correspondance, ni d’atteintes à son honneur et à sa réputation. Toute personne a droit à la protection de la loi contre de telles immixtions ou de telles atteintes ».2 Dans la même veine, l’article 19 souligne que : « Toute personne a droit à la liberté de pensée, de conscience et de religion ; ce droit implique la liberté de changer de religion ou de conviction ainsi que la liberté de manifester sa religion ou sa conviction seule ou en commun, tant en public qu'en privé, par l'enseignement, les pratiques, le culte et l'accomplissement des rites »3, tandis que l’article 20 affirme que : « Tout individu a droit à la liberté d'opinion et d'expression, ce qui implique le droit de ne pas être inquiété pour ses opinions et celui de chercher, de recevoir et de répandre, sans considérations de frontières, les informations et les idées par quelque moyen d'expression que ce soit ».4

Dans le même ordre d’idées, et dans sa résolution 2200 A (XXI) en date du 16 décembre 1966, l’Assemblée générale de l’ONU a adopté le Pacte international relatif aux droits civils et politiques. Ce Pacte est considéré comme une étape importante de l’action de la communauté internationale pour promouvoir les droits de l’homme. Parmi ses principales dispositions, on trouve le droit à la vie privée. Son article 17 reprend in extenso l’article 12 de la Déclaration des droits de l’homme. En outre, l’article 19.2 du présent pacte est une synthèse parfaite de l’article 19 de la Déclaration des droits de l’homme de 1948, dans la mesure où il stipule que : « Toute personne a droit à la liberté d’expression ; ce droit comprend la liberté de rechercher, de recevoir et de répandre des informations et des idées de toute espèce, sans considération de frontières, sous une forme orale, écrite, imprimée ou artistique, ou par tout autre moyen de son choix ».5 Le même article limite l’exercice des droits et libertés au « a- respect des droits ou de la réputation d'autrui ; b- la sauvegarde de la sécurité nationale, de l'ordre public, de la santé ou de la moralité publiques ».6 Comme l’ensemble des pays signataires de ce Pacte, le Maroc, qui l’a signé le 19 janvier 1977 et ratifié le 3 mai 1979, s’est engagé à œuvrer pour le respect de ses engagements.

D’autre part, et en raison de ses engagements économiques, le Maroc a dû adopter une législation protectrice des données à caractère personnel similaire à celles qui existent en Europe, en l’occurrence la Directive européenne 95/46/CE, qui demeure un texte de référence en matière de protection des données personnelles au niveau de l’UE. En effet, ce texte a mis en place un cadre réglementaire visant à établir un équilibre entre un niveau élevé de protection de la vie privée des personnes et la libre circulation des données à caractère personnel. Il fixe des limites strictes à la collecte et à l’utilisation des données à caractère personnel.7 Pour illustrer notre propos, nous rappelons que le Maroc est une destination propice à l’offshoring de services dont l’objet est le traitement des données personnelles (les centres d’appel, les centres de télémarketing, etc.).8 À ce titre, et en vue d’obtenir le statut d’adéquation aux normes de l’UE, il s’est avéré nécessaire de se conformer intégralement à la législation européenne.

Enfin, et dans la perspective de promouvoir une intelligence artificielle éthique, les 193 États membres de l’Unesco se sont accordés le 23 novembre 2021 sur un corps de recommandations ambitionnant de rendre l'intelligence artificielle plus éthique. Concrètement, et de l’avis d’Audrey Azoulay, directrice de l’Unesco, le texte guide les États sur la façon dont ils peuvent agir pour appliquer ce cadre éthique. Dans le domaine des libertés fondamentales, la recommandation proscrit tout recours à la notation sociale et à la surveillance de masse; dans le domaine de la gouvernance des données, elle établit des règles pour que chaque citoyen puisse garder le contrôle sur les données qu'il fournit, et qu'il puisse à tout moment y accéder et s'il le souhaite les supprimer; le texte invite aussi les États à créer des organes indépendants qui puissent être saisis par tout citoyen à des fins de demande d'information, mais aussi de recours pour faire valoir leurs droits.9 La recommandation de l'Unesco qui est dépourvue de tout caractère juridique 

contraignant, est surtout un outil pour les gouvernements, en vue de leur permettre de définir un cadre pour guider leurs politiques en la matière. Le Maroc, qui s’est aligné sur les recommandations de l'instance onusienne portant sur l'éthique de l'intelligence artificielle, de surcroît accompagnée par la mise en place d’une commission dédiée à cet effet, fait figure de proue dans la mise en œuvre des recommandations liées à l’éthique de l’intelligence artificielle, selon la directrice de l’Unesco.10

B. La protection des droits et libertés numériques sur le plan national

Les libertés et les droits numériques, sujet d’étude classique des sciences juridiques, mais qui sont toujours mouvementés, comportent de nombreux défis qui vont amener la règlementation à une constante évolution. À cet égard, les autorités marocaines ont adopté durant les vingt dernières années une batterie de mesures visant à mettre le numérique et le digital au service des citoyens marocains et à stimuler la compétitivité du Maroc dans ce domaine :

• la loi n° 07-03 promulguée par le dahir n° 1-03-197 du 11 novembre 2003, modifiant et complétant le Code pénal ;

• la loi n° 53-05 promulguée par le dahir n° 1-07-129 du 30 novembre 2007, relative à l’échange électronique de données juridiques ;

• la loi n° 09-08 promulguée par le dahir n° 1-09-15 du 18 février 2009, relative à la protection des personnes physiques à l’égard du traitement des données à caractère personnel ;

• la loi n° 31-08 promulguée par le dahir n° 1-11-03 du 18 février 2011 – 14 rabii 1432, édictant des mesures de protection des consommateurs ;

• la loi n° 132-13 portant approbation du protocole additionnel à la convention européenne pour la protection des personnes à l’égard du traitement automatisé des données à caractère personnel promulguée par le Dahir n° 1-14-136 du 3 du 31 juill.2014 ;

• la loi n° 88-13 promulguée par le dahir n° 1-16-122 du 10 août 2016, relative à la presse et à l’édition n° 6522, 1er décembre 2016 ;

• la loi n° 1-20-69 du 25 juillet 2020 portant promulgation de la loi n° 05-20 relative à la cybersécurité ;

• la loi n° 43-20 relative aux services de confiance pour les transactions électroniques promulguée par le Dahir n° 1-20-100 du 31 décembre 2020.

  La loi numéro 09-08 qui édicte les règles relatives à la protection des données personnelles a institué une Commission nationale de contrôle de la protection des données à caractère personnel (CNDP), chargée de veiller à la protection des données personnelles contenues dans les fichiers et traitements informatiques ou papiers, aussi bien publics que privés. Accréditée durant la 33ème Conférence internationale de la protection des données personnelles et de la vie privée, et membre à part entière de la Conférence internationale 

  des autorités nationales de contrôle des données personnelles, la CNDP accompagne les professionnels dans leur mise en conformité et aide les particuliers à maîtriser leurs données personnelles et exercer leurs droits. Elle est ainsi chargée de veiller à ce que l'informatique soit au service du citoyen et qu'elle ne porte atteinte ni à l'identité humaine, ni aux droits de l'homme, ni à la vie privée, ni aux libertés individuelles ou publiques, tout en élaborant des recommandations à l’intention des autorités gouvernementales ou législatives sur les projets ou propositions de loi ou de règlement se rapportant aux données à caractère personnel. La CNDP est une institution consultative indépendante, c'est-à-dire une instance dépourvue de tout caractère juridique contraignant, qui agit au nom de l'État, sans être placée sous l'autorité du gouvernement ou d'un ministre. Elle est composée d’un Président et de sept membres nommés et s'appuie sur des services. Elle a un rôle d'alerte, de conseil et d'information envers tous les publics mais dispose également d'un pouvoir de contrôle et de sanction. Notons aussi qu’au niveau international, la CNDP a présenté une demande d’adéquation auprès de la Commission européenne, pour que le Maroc soit pleinement considéré comme un pays offrant une protection des données personnelles conforme aux standards européens. Elle a également saisi le ministère des Affaires étrangères et de la Coopération en vue de l’adhésion à la Convention 108 du Conseil de l’Europe, relative à la protection des personnes à l’égard du traitement automatisé des données à caractère personnel.

  Dans un élan plus ou moins progressiste, la réforme constitutionnelle de juillet 2011, bien qu’elle ait omis dans son article 19 des droits et libertés à caractère numérique, a néanmoins réaffirmé l’attachement du Maroc à la construction d’un État de droit, démocratique et moderne qui protège les droits de l’homme et les libertés individuelles et collectives. Parmi ces droits, figure celui relatif à la protection de la vie privée. Dans son article 24, la Constitution souligne ce droit fondamental en ces termes : « Toute personne a droit à la protection de sa vie privée. Le domicile est inviolable. Les perquisitions ne peuvent intervenir que dans les conditions et les formes prévues par la loi. Les communications privées, sous quelque forme que ce soit, sont secrètes. Seule la justice peut autoriser, dans les conditions et selon les formes prévues par la loi, l’accès à leur contenu, leur divulgation totale ou partielle ou leur invocation à la charge de quiconque. Est garantie pour tous, la liberté de circuler et de s’établir sur le territoire national, d’en sortir et d’y retourner, conformément à la loi ».11 En effet, lorsque la Constitution affirme le principe du droit à la protection de la vie privée, elle entend protéger les droits des individus quant aux informations qui leur sont personnelles. L’article 25 quant à lui défend les libertés de pensée, d’opinion, d’expression dans toutes leurs formes, ce qui sous-entend pareillement la prise en compte de la connotation numérique de ces droits : « Sont garanties les libertés de pensée, d'opinion et d'expression sous toutes ses formes ».12 Enfin, et en consacrant la primauté des conventions internationales ratifiées, la Constitution impose le respect, sur le plan interne, des dispositions du Pacte international relatif aux droits civils et politiques dont les articles 17 et 19 rappellent les dispositions de la Déclaration universelle des droits de l’homme relatives à la protection que doit apporter la loi contre les immixtions arbitraires dans la vie privée des individus et les atteintes à leur honneur et à leur réputation, ainsi que la protection des droits et des libertés dans toutes leurs dimensions, y compris le substrat numérique.

  La gouvernance numérique allait prendre une forme plus structurée avec la mise en place, l’année de l’adoption de la nouvelle Constitution marocaine (2011), de la Direction Générale 

  de la Sécurité des Systèmes d’Information (DGSSI), service à compétence nationale rattaché à l’Administration de la Défense Nationale (ADN), compétente pour assurer la mission d’autorité nationale en matière d’accompagnement et de sécurisation du développement du numérique. Acteur majeur de la cybersécurité, la DGSSI apporte son expertise et son assistance technique aux administrations et aux entreprises, tout en assurant un service de veille, de détection, d’alerte et de réaction aux attaques informatiques, supervisé par le MACERT (Moroccan Computer Emergency Response Team) afin de remédier à toute forme de risque inhérent à la cybercriminalité. En outre, l’essor de la mondialisation numérique a poussé la DGSSI à élaborer une stratégie nationale destinée à accompagner la multiplication des technologies de communication et d’information, ainsi que la transition numérique qui caractérisent le Maroc contemporain. La stratégie en question répond aux nouveaux enjeux nés des évolutions des usages numériques et des menaces qui y sont liées avec quatre objectifs : 1- Évaluer les risques pesant sur les systèmes d'information au sein des administrations, organismes publics et infrastructures d'importance vitale ; 2- Protéger et défendre les systèmes informatiques des administrations, organismes publics et infrastructures d’importance vitale ; 3- Renforcer les fondements de la sécurité des systèmes informatiques ; 4- Promouvoir la coopération nationale et internationale.13 Avec la Stratégie nationale pour la sécurité du numérique, l’État s’engage au bénéfice de la sécurité des systèmes d’information pour aller, par une réponse collective, vers la confiance numérique propice à la stabilité de l’État, au développement économique et à la protection des citoyens.

  Désirant accompagner la transition numérique et digitale, les autorités marocaines ont décidé en 2017 la création de l’Agence de développement digital en vue d’interroger la relation des humains au numérique et au digital et de structurer le débat autour de cette question. Etablissement public stratégique doté de la personnalité morale et de l’autonomie financière, et placé sous tutelle du Ministère Délégué auprès du Chef du Gouvernement Chargé de la Transition Numérique et de la Réforme de l'Administration, l’Agence de développement digital a pour principale mission de : 1- Mettre en œuvre la stratégie de l’État en matière de développement du digital et de promouvoir la diffusion des outils numériques et le développement de leur usage auprès des citoyens ; 2- Produire une pensée ouverte sur le digital, dans toutes ses dimensions : et 3- Donner aux citoyens et aux décideurs, des clefs pour réfléchir et pour agir. A cette fin, l’ADD organise des concertations, aux niveaux local, national et territorial, avec les pouvoirs publics, les élus, les secteurs économiques, associatifs et académiques et la société civile. L’ADD, généralement saisie par le gouvernement sur une thématique ou un projet de loi, remet à l’exécutif un rapport contenant des éléments d’analyse et des recommandations. Ses thèmes sont des sujets de société (inclusion et citoyenneté, santé, éducation, etc.) ou économiques (loyauté des plateformes, fiscalité numérique, etc.). En outre, l’ADD prépare ses rapports en organisant de larges concertations qui consistent à convier des acteurs divers, dans la perspective de contribuer à une société plus créative et innovante, tout en construisant un nouvel équilibre entre enjeux économiques et sociétaux liés au numérique.

  Enfin, le Nouveau modèle de développement (NMD) a placé la transformation numérique au cœur de la nouvelle développementaliste du Royaume, susceptible d’accélérer la mise en œuvre de nombreux chantiers transformationnels. Pour la CSMD, il est urgent d’accorder au numérique un intérêt particulier au plus haut niveau de l’État comme catalyseur de transformations structurantes et à fort impact. Il s’agit ainsi d’adopter une stratégie de transformation numérique portée à haut niveau, et de mettre à niveau les infrastructures 

  numériques de haut-débit et très haut débit fixe et mobile et les étendre à l’ensemble du territoire pour réduire la fracture numérique. Et afin d’accélérer l’avènement d’une société numérique, la CSMD a préconisé également de développer des plateformes numériques pour tous les services au citoyen et à l’entreprise, ainsi que des plateformes de participation aux niveaux central et territorial, de former des compétences suffisantes pour mettre en œuvre cette transformation numérique sur le terrain et, enfin, de parachever le cadre légal visant à assurer la confiance numérique des utilisateurs et la souveraineté numérique du Royaume, notamment en matière de cybersécurité, de propriété intellectuelle, et de protection des données personnelles.

  II. Les enjeux de l’intelligence artificielle au Maroc

  Le Maroc devrait connaître, dans les prochaines années, une accélération du déploiement de l’intelligence artificielle dans plusieurs secteurs. Reposant sur un processus d’imitation de l’intelligence humaine qui se base sur la création et l’application d’algorithmes, l’intelligence artificielle a un avenir prometteur et représente une énorme opportunité pour le pays. Toutefois, il est indispensable de préparer le terrain pour l’usage de cette technologie, voire de participer à son développement aussi bien dans le secteur public que privé.

  A. Le développement de l’intelligence artificielle au Maroc

  L’intelligence artificielle connait un essor considérable au Maroc. Celle-ci s’applique particulièrement dans les domaines de traitement des images, le speech-to-text et le texte. S’agissant des images, l’usage de l’intelligence artificielle s’avère prépondérant dans les radars reconnaissant les matricules, les caméras installées dans les villes comme Casablanca ou Marrakech gérant les trafics de circulation, les images satellites qui peuvent être appliquées dans le domaine de l’agriculture, l’organisation du transport en commun dans les grandes métropoles de Casablanca, Rabat et Marrakech ou, encore, la mise en place d’un dispositif de reconnaissance faciale à l’aéroport de Rabat-Salé. La technologie du speech-to-text qui fait partie du champ interdisciplinaire de l’intelligence artificielle permet de transformer n’importe quel contenu audio en texte écrit. Très récurrent dans les entreprises, le speech-to-text à travers le « Machine Learning » permet aux entreprises de gagner du temps en leur évitant d’avoir à taper manuellement sur le clavier. Il leur suffit alors de dicter le texte et de laisser l’ordinateur se charger de le retranscrire à l’écrit. Enfin, à propos du texte, l’intelligence artificielle permet de résumer des livres, ainsi que d’autres types de textes, comme des études ou des documents de recherche, peu importe leur longueur, grâce à cette technologie qui condense les informations essentielles en quelques lignes. Une évolution notable bénéfique aux entreprises, mais aussi à l’État, dans la mesure où elle contribue à la détection des signaux faibles à travers les applications dans les réseaux sociaux, permettant d’identifier des éventuelles menaces susceptibles de nuire à la sécurité nationale.

  En outre, les progrès réalisés par l’intelligence artificielle laissent présager un nouveau cycle de croissance économique, qui pourra profiter au Maroc si celui-ci parvient à maîtriser la clé de voûte de la quatrième révolution industrielle. En effet, l’intelligence artificielle pourrait permettre aux citoyens marocains d’accéder à de meilleurs soins de santé, des voitures et autres modes de transport plus sûrs, ainsi que des services moins coûteux, mieux adaptés à leurs besoins et munis d’une plus longue durée de vie. Elle pourrait également 

  faciliter l’accès à l’information, l’éducation et les formations, des aspects fortement mis en avant durant la pandémie de la Covid-19, à l’exemple du suivi des populations par le biais d’applications mobiles.14 Elle peut aussi contribuer à rendre le milieu du travail plus sûr, puisque des robots peuvent être employés pour accomplir des tâches dangereuses. A titre d’exemple, et dans le cadre de l’industrie automobile, dont le Maroc est un des acteurs les plus en vue en Afrique, il existe de nombreuses applications de l’intelligence artificielle dans la voiture autonome. Elles concernent principalement l’apprentissage de la conduite par Machine – Learning pour apprendre à la voiture comment se comporter en cas d’accident. L’intelligence artificielle intervient également dans la vérification de la qualité des organes de la voiture en maintenance prédictive ; dans la connaissance de l’environnement grâce aux données remontées de capteurs ; dans l’analyse du comportement du conducteur ou encore dans la cybersécurité pour surveiller l’état de la connectivité et éviter tout piratage.

  Du point de vue des entreprises, l’intelligence artificielle peut favoriser le développement d’une nouvelle génération de produits et de services. Elle est en passe de jouer un rôle majeur dans le renouvellement de l’industrie du tourisme. La technologie du « Machine Learning » permet de programmer un chatbot, ou assistant conversationnel, doté de deux qualités essentielles : le langage et l’intelligence cognitive. Véritable assistant personnel, le chatbot peut fournir une réponse rapide et cohérente à des milliers de touristes en quête d’information ou service, tel qu’un code Wifi, mais aussi une réservation de chambre ou de taxi. Le chatbot offre une conversation avec le client qui respecte la culture et l’image de marque de l’entreprise ou de la personne qui l’utilise.

  Enfin, lorsqu’elle est utilisée dans les services publics, l’intelligence artificielle peut réduire les coûts et offrir de nouvelles opportunités dans les domaines du transport public, de l’éducation, de l’énergie, de la gestion des déchets et peut améliorer la durabilité des produits. En outre, les experts prédisent que l’intelligence artificielle sera plus fréquemment employée dans le système judiciaire et dans la prévention de la délinquance, avec des ensembles massifs de données analysées rapidement, une évaluation plus fine des risques associés à certains profils criminels, voire même l’émergence de systèmes capables de prédire et de prévenir des attaques terroristes. Elle est d’ores et déjà utilisée par les plateformes en ligne pour détecter les comportements illégaux ou dangereux dans les réseaux sociaux.

  B. Une technologie menaçant l’exercice des libertés et droits fondamentaux

  Autant l’intelligence artificielle est à même d’accélérer la cadence du développement au Maroc, autant elle suscite des inquiétudes quant aux risques qu’elle fait peser sur les libertés et droits fondamentaux. Pour les fins de notre étude, nous nous intéresserons aux risques d’atteinte au principe de non-discrimination, à la liberté d’opinion et d'expression, ainsi que la protection des données personnelles.

  a. La non-discrimination

  Le principe de non-discrimination est inscrit à l'article 7 de la Déclaration universelle des droits de l'homme15, l'article 2 de la charte africaine des droits de l’homme et des 

  peuples16, et l’article 19 de la Constitution marocaine de 2011.17 En effet, le recours à l'intelligence artificielle est souvent expliqué par le caractère neutre de cette technologie, permettant d'échapper aux préjugés et à la discrimination inconsciente effectuée par tout être humain. Or, il ne faut pas oublier que cette machine a été imaginée et façonnée par un être humain. Au cours de la création d'une intelligence artificielle, l'être humain conçoit forcément cette technologie avec ses préjugés, qu'ils soient conscients ou inconscients. Ainsi, dès sa création, l'intelligence artificielle hérite d'un biais de la part de son créateur.

  Selon une récente étude de l'agence américaine National Institute of Standards and Technology, un système de reconnaissance faciale se trompe entre 10 et 100 fois plus lors de l'identification de personnes d'origine afro-américaine ou d'origine asiatique, que lors de l'identification de personnes d'origine caucasienne.18 Une erreur commise par un logiciel de reconnaissance faciale peut être très préjudiciable, notamment si une telle technique est utilisée par les forces de l'ordre : cela pourrait entraîner de fausses accusations ou de fausses arrestations. La legal tech américaine Palantir a, par exemple, développé et testé des outils de police prédictive dès 2012 dans des villes comme Chicago, Los Angeles, la Nouvelle-Orléans et New York.19 La police prédictive est le fait de prévoir qu'une infraction sera commise à un endroit précis, ou de prévoir si un suspect a des chances de commettre une infraction. L'emploi de l'intelligence artificielle comme un outil de police prédictive peut être considéré comme un bienfait pour la société dans son ensemble, car il permettrait une prévention et une répression des infractions plus efficaces, mais cela présente un risque réel pour les libertés individuelles. Ces technologies sont également testées au Maroc, mais les outils de police prédictive n'établissent pas de « fiches suspects » et se focalisent sur les endroits où il est probable qu'une infraction soit commise.

  Dans le domaine de la justice, l'intelligence artificielle permet d'accélérer le traitement d'énormes quantités de données et de déterminer la durée des peines d'emprisonnement pour permettre des approches plus homogènes d'affaires comparables. Néanmoins, l'utilisation par les juges américains de l'algorithme d'intelligence artificielle COMPAS, servant à déterminer la probabilité de récidive d'un individu, a soulevé une controverse aux États-Unis. En 2016, une enquête de l'ONG ProPublica a conclu que les données utilisées par l'algorithme COMPAS étaient biaisées, et donc que l'algorithme l'était également, au détriment d'individus issus de minorités.20 Si ces atteintes au principe de non-discrimination continuent, cela risque de réduire la confiance dans l'application de la loi suite à l'utilisation de l'intelligence artificielle et, donc, de compromettre l'État de droit.

  L'utilisation de l'intelligence artificielle dans un logiciel de recrutement d'Amazon a abouti à des résultats similaires. En 2014, le géant du e-commerce a développé un programme informatique afin d'automatiser le processus de recrutement de ses salariés. Cependant, Amazon a dû y renoncer 3 ans plus tard car ce logiciel discriminait les femmes. L'objectif du 

  logiciel était d'attribuer une note d'une à cinq étoiles en fonction du profil des candidats.21 Pour ce faire, l'intelligence artificielle s'appuyait sur les profils des candidats d'Amazon sur une période de 10 ans. À cause de la prédominance masculine dans le domaine des nouvelles technologies au cours de cette période, l'intelligence artificielle a déduit que les profils masculins étaient à favoriser, au détriment des profils mentionnant le mot « femme » ou « féminin ».

  L'intelligence artificielle accentue donc la discrimination en l'ancrant dans la technologie. En réaction à cela, les ONG Amnesty International et AccessNow ont rédigé la Déclaration de Toronto.22 Ce texte, publié le 16 mai 2018, a pour but de protéger le droit à l'égalité et à la non-discrimination dans les systèmes reposant sur l'apprentissage automatique, de surcroit consolidé par le rapport de 2021 de l’Unesco qui a appelé à une éthique propre aux aléas de l’intelligence artificielle.

  b. Les libertés d’opinion et d’expression

  Les libertés d’opinion et d'expression sont inscrites à l'article 19 de la Déclaration universelle des droits de l'homme23, l'article 9 de la Charte africaine des droits de l’homme et des peuples24, et l’article 25 de la Constitution marocaine.25 Or, avec le déplacement progressif du débat public vers les médias sociaux, ces espaces conversationnels numériques, structurés par des algorithmes définis par les plateformes, font l’objet de nombreuses critiques. Il est reproché à l’intelligence artificielle d’être régulièrement utilisée, notamment par les réseaux sociaux, pour contrôler le contenu diffusé par leurs utilisateurs. Cette technologie va en effet identifier le contenu qui n'est pas conforme aux conditions d'utilisation de ces plateformes.

  Les pressions exercées par des gouvernements qui exercent des pressions sur les entreprises pour qu'elles s'attaquent au problème des contenus terroristes, des discours incitant à la haine et des ‘fake news’ ont conduit à une utilisation accrue des systèmes automatisés. La loi allemande NetzDG exige notamment que les réseaux sociaux suppriment de nombreux contenus entre 24 heures et 7 jours suivant leur signalement.26 Cependant, puisque l'intelligence artificielle est imparfaite, et que les réseaux sociaux sont contraints de supprimer rapidement le contenu indésirable, une partie du contenu peut être supprimée par erreur. Par exemple, YouTube a supprimé plus de 100.000 vidéos documentant les atrocités commises en Syrie après qu'elles aient été signalées pour « incitation à la haine ». Pourtant, ces vidéos constituaient souvent la seule preuve des crimes et des violations des droits de l'homme commis dans ce pays : l'intelligence artificielle n'est pas parvenue à distinguer ces vidéos violentes, pour lesquelles YouTube prévoit des exceptions à cause de leur valeur éducative et documentaire, des vidéos violentes à des fins de propagande.27 En France, la loi Avia, inspirée de la loi allemande NetzDG et prévoyant une obligation, pour 

  les réseaux sociaux, de retirer en 24 heures les contenus illégaux, a été censurée par le Conseil constitutionnel le 18 juin 2020, par crainte des atteintes à la liberté d'expression.28

  c. La protection des données personnelles

  L'intelligence artificielle donne naissance à de nouveaux défis en matière d’éthique et de protection des données qui doivent être traités par le biais d'une politique et d'une conception minutieuse de solutions afin de parvenir à l'harmonie. L'intelligence artificielle et ses sous-ensembles, l'apprentissage automatique (ML) et l'apprentissage profond (DL), génèrent des idées et des produits innovants à un rythme soutenu. En effet, le marché des solutions basées sur l'IA devrait valoir 733,7 milliards d'ici 2027 avec un taux de croissance annuel composé de plus de 42%.29 Ces solutions se nourrissent de données, les consomment et les analysent pour fournir l'intelligence nécessaire au fonctionnement des solutions basées sur l'intelligence artificielle. Or, ces données sont souvent personnelles, comportementales et peuvent être des données très sensibles telles que des informations de santé et biométriques, avec des implications potentielles sur la vie privée et l'éthique, exacerbant la protection des renseignements personnels dans un avenir activé par l'intelligence artificielle.

  L'intersection de l'intelligence artificielle avec l'éthique et la protection des données prend de l'ampleur à mesure que la technologie devient plus courante dans les infrastructures informatiques. Il existe de nombreux exemples où la puissance des algorithmes d'intelligence artificielle entraîne des problèmes de protection des renseignements personnels et des dilemmes éthiques. En matière de systèmes de reconnaissance faciale, une enquête réalisée par l’université de Georgetown, aux Etats-Unis, a constaté qu'environ la moitié des adultes américains ont des images faciales stockées dans des bases de données permettant aux forces de l'ordre d'effectuer des recherches.30 Un exemple de problème de biais fondé sur l'intelligence artificielle en médecine a été porté à l'attention du British Medical Council (BMJ).31 Dans un article, le BMJ évoque le cas d'Avery Smith et de sa femme, LeToya, décédés d'un mélanome. Smith, un développeur de logiciels, a découvert que les algorithmes utilisés dans la détection du cancer de la peau étaient formés en utilisant principalement une peau blanche. La femme de Smith, une femme noire, a été affectée négativement par des algorithmes d'IA qui ne comprenaient que la peau blanche.

  L'intelligence artificielle alimente de nombreux processus et continuera de le faire, d'autant plus que la fabrication englobe la technologie et que des villes intelligentes apparaissent. Mais cette technologie, par sa nature, doit consommer toujours plus de données pour améliorer l'intelligence et l'efficacité. Ce faisant, elle ouvre de nouveaux défis en matière de protection de la vie privée et d'éthique qui doivent être résolus par le biais d'une politique et d'une conception minutieuses de solutions. Or, force est de constater que le cadre juridique de la protection des données personnelles au Maroc a été défini à une époque 

  où la circulation des données et leurs valeurs économiques étaient limitées. Il importe donc d’assurer la sécurisation juridique des données, clé de voûte du développement de l’économie numérique, ainsi que de s’assurer que la technologie de l’intelligence artificielle agit de manière éthique et respectueuse de la vie privée.

  III. Le besoin de réglementer juridiquement l’intelligence artificielle au Maroc

  L’apparition de la notion juridique d’intelligence artificielle a été entravée par le manque de cohérence scientifique, dont les fondements et contours doivent être précisés. Alors que l’individu s’aventure dans un monde déterritorialisé, la protection des libertés et des droits numériques doit s’appuyer sur des principes juridiques identifiés et clairement réaffirmés, et sur une large palette d’outils de régulation. Le juge a un rôle majeur à jouer, aux côtés des autorités indépendantes spécialement compétentes et la société civile.

  1. La nécessité d’une intelligence artificielle transparente

  En dépit des atteintes aux libertés et droits fondamentaux, il ne faut pas rejeter l'avancée technologique que représente l'intelligence artificielle. D'après Salil Shetty, ancien secrétaire général d'Amnesty International, « il existe des possibilités et des bénéfices immenses à tirer de l'intelligence artificielle si les droits de l'homme sont au cœur de cette technologie ».32

  Pour développer l'intelligence artificielle tout en limitant ses atteintes aux libertés et droits fondamentaux, la première chose à faire est d'assurer une voie de recours effective pour permettre aux individus de faire valoir leurs droits. L'article 8 de la Déclaration universelle des droits de l'homme, ainsi que l'article 118 de la Constitution marocaine de 2011 énoncent que le droit à un recours effectif en cas de violation des libertés et droits fondamentaux est un impératif. En France, il existe une voie de recours appelée le référé liberté, prévue à l'article L. 521-2 du Code de justice administrative : il faut justifier d'une urgence, montrer qu'une liberté fondamentale est en cause, et montrer que l'atteinte à cette liberté est grave et manifestement illégale.

  Deuxièmement, la transparence des algorithmes est indispensable pour mieux comprendre les solutions qu'ils proposent, de pouvoir imputer la responsabilité de ces décisions à quelqu'un, et de pouvoir les contester plus facilement. La rétro-ingénierie, qui est la science qui décrypte les raisonnements d'une machine, est essentielle pour l'augmentation de la transparence des outils ayant recours à l'intelligence artificielle. Les débats publics partout dans le monde ont permis de dégager trois principes fondateurs pour une intelligence artificielle éthique et respectueuse des droits de l’homme : 1- Le principe de la neutralité du web qui garantit la libre circulation, sans discrimination, des contenus sur le web, en permettant à chaque entreprise, chaque association, ou tout particulier de bénéficier d’un égal accès à tous les internautes ; 2- Le principe de la loyauté qui repose sur la loyauté des algorithmes envers leurs utilisateurs. En France, et suite à une requête de l’association UFC-Que Choisir déposée en 2014 contre Google, le Tribunal de Grande Instance de Paris par un jugement du 12 février 2019, a déclaré abusives et illicites 38 clauses des conditions d’utilisation et des règles de confidentialité du géant américain, en interdisant 

  à ce dernier de collecter et partager les données personnelles de ses utilisateurs sans les en avoir informés clairement, de géolocaliser en permanence ses utilisateurs et de modifier volontairement les données personnelles collectées ou les diffuser librement dans des annonces commerciales33; 3- Le principe de vigilance permettant de prendre en compte le caractère imprévisible et évolutif des algorithmes, obligeant par conséquent le responsable de traitement à prendre toutes les précautions utiles pour garantir la sécurité des données qu’il a collectées, mais aussi leur confidentialité, c’est-à-dire s’assurer que seules les personnes autorisées y accèdent. Ces mesures pourront être déterminées en fonction des risques pesant sur ce fichier, comme la sensibilité des données ou, encore, l’objectif du traitement.34

  Troisièmement, le recours aux mécanismes extra-judiciaires de règlement des différends (la médiation, la réconciliation et l’arbitrage) peut contribuer à résoudre les litiges relatifs aux questions numériques, à l’exemple de l’intelligence artificielle. Nombre de litiges liés à l’utilisation numérique, qu’ils portent sur les données personnelles, les atteintes à la réputation sur internet ou l’intelligence artificielle, sont considérés dans la terminologie juridique comme des « petits litiges ». Or, les instances juridictionnelles traditionnelles sont peu adaptées au traitement de ces formes de contentieux. Les tribunaux traditionnels, confrontés à des évolutions techniques complexes qui supposent une expertise particulière, peuvent ne pas disposer des compétences nécessaires pour résoudre les conflits numériques, ce qui peut convaincre les parties lésées de saisir la justice. Dans cette perspective, le recours aux mécanismes extra-judiciaires des différends, présentant de nombreux avantages par rapport aux tribunaux traditionnels en termes de temps (le recours aux mécanismes extra-judiciaires de règlement des différends est moins long par rapport aux tribunaux), de coûts (le recours aux mécanismes extra-judiciaires de règlement des différends est moins coûteux que devant les tribunaux), d’expertise (les arbitres maitrisent les enjeux juridiques inhérents aux numériques), le choix de la loi applicable (les plaignants peuvent convenir du choix de loi qui leur parait la plus appropriée), et le suivi de la procédure (la sentence arbitrale peut être déposée devant un tribunal pour un appel ou pour être appliquée comme ordonnance) peut constituer une alternative crédible. En effet, le règlement extrajudiciaire des différends est une méthode capable de renforcer les systèmes de règlement des litiges et de combler le fossé entre les systèmes judiciaires formels et les formes traditionnelles de justice. L’adoption de mesures législatives appropriées en faveur de modalités extrajudiciaires des différends permettant d’accroître le nombre des médiateurs et arbitres, ainsi que de renforcer leurs compétences peut accélérer la mise en place de tels mécanismes. Notons à cette fin que la nouvelle loi marocaine d’arbitrage et de médiation conventionnelle de 2022 énonce les règles à suivre en matière de règlement extra-judiciaire de règlement des différends. Par exemple, elle définit les modalités à respecter pour désigner un arbitre ou un tribunal arbitral chargé de trancher le litige et de quelle façon l’arbitre doit superviser le différend. Les parties ont plus de latitude pour choisir les principes gouvernant les procédures dans la mesure où l’arbitrage est considéré comme une procédure de nature privée dans laquelle les parties s’engagent dans un accord commun dans le cadre d’un compromis d’arbitrage.

  Enfin, la coopération entre les entreprises privées, les universitaires, les ONG, la société civile et les citoyens pourrait permettre d'aboutir au développement et à l'utilisation d'une 

  intelligence plus respectueuse des libertés et droits fondamentaux. La sensibilisation des individus à l'intelligence artificielle, dès leur plus jeune âge, est également primordiale afin que chacun ait un bon usage de ces technologies et comprenne leur influence dans nos vies. A cette fin, le lancement en 2019 du programme Al Khawarizmi, visant à stimuler la réflexion nationale sur l’intelligence artificielle, est un signe positif. En outre, la mise en place d’une instance consultative chargée de la transition numérique et digitale et en mesure d’appréhender les aléas de l’intelligence artificielle, ne peut être que salutaire.

  2. L’élaboration d’un statut juridique propre à l’intelligence artificielle

  Avec la généralisation de l’usage de l’intelligence artificielle dans tous les domaines, allant de la voiture autonome à la médecine de précision, en passant par la maintenance prédictive et la gestion du trafic aérien, un enjeu nouveau apparaît : celui de la responsabilité en cas de préjudice causé par une intelligence artificielle. On entend par cette dernière l’obligation faite à une personne de réparer le préjudice causé à autrui. La fonction première du droit de la responsabilité civile est de compenser le préjudice subi par la personne lésée. La seconde fonction du droit de la responsabilité civile se veut préventive. L’obligation faite aux responsables de réparer les préjudices qu’ils causent incite tout un chacun à se comporter avec diligence. En revanche, le droit de la responsabilité n’a pas pour but de punir le responsable. Cette fonction punitive appartient au droit pénal.

  Force est de constater que le droit positif marocain, comme celui de la plupart des pays avancés, n’apporte pas de réponse claire à cette question. L’intelligence artificielle est une chose immatérielle dépourvue de personnalité juridique et de patrimoine, de sorte qu’elle ne peut être tenue pour responsable de ses actes. Par conséquent, et comme une intelligence artificielle est immatérielle (software), mais incorporée dans des machines (hardware), il est difficile d’en extraire son comportement spécifique au-delà de l’action qu’elle co-commande avec l’homme. Cependant, son autonomie grandissante (co- apprentissage) va la rendre de jour en jour plus autonome de l’action humaine. Dans cette perspective, l’encadrement juridique des systèmes d’intelligence artificielle, qui ne bride pas l’innovation, mais qui offre une protection efficace aux potentielles victimes, revêt une importance considérable. Or, cet objectif suppose de trouver de l’équilibre dans le dispositif juridique. A cet égard, plusieurs pistes sont proposées, parmi lesquelles la création d’une personnalité électronique, attribuant aux systèmes d’intelligence artificielle (SIA) un statut juridique, à l’exemple des sociétés anonymes durant la première révolution industrielle pour les sociétés anonymes. Le cas de l’Arabie saoudite, qui a octroyé la citoyenneté au robot « Sophia » en 2017, disposant d’un statut comparable à celui des êtres humains, peut inspirer le Maroc. Cette machine peut se déplacer et interagir avec son environnement sans intervention active d’un être humain, bien que Sophia soit dépourvue de conscience et de réelle autonomie.

  Néanmoins, seule une intelligence artificielle véritablement autonome et dotée d’une conscience de soi, lui permettant de raisonner, de comprendre ce qu’elle fait et d’effectuer des choix, mérite l’octroi de la personnalité juridique. Autrement dit, à une intelligence artificielle capable de causer des préjudices avec volonté et conscience, et échappant totalement au contrôle de l’être humain, un statut juridique doit lui être octroyé, afin de lui imposer le poids de la réparation du préjudice causé. Or, cette forme d’intelligence artificielle n’existe pas encore et, donc, la création d’une personnalité électronique n’est pour l’instant pas nécessaire. Il apparaît plus raisonnable d’imputer les effets de la responsabilité au concepteur, au fabricant, au propriétaire et à l’utilisateur de l’intelligence 

  artificielle, lesquels se dissimulent derrière les machines. Toutefois, pour désigner lequel de ces acteurs est responsable en cas de préjudice causé par une intelligence artificielle, il est indispensable de favoriser la transparence des algorithmes utilisés. Cela suppose de mettre en place un système permettant de retracer le raisonnement de l’algorithme afin d’imputer le résultat dommageable à une personne physique.

  Conclusion

  L’intelligence artificielle est en train de faire naître un tout nouveau monde dans lequel le « machine learning », le « deep learning », les « réseaux de neurones » et toutes les nouvelles technologies inhérentes à cette dernière vont conduire les affaires du monde, dans lequel la généralisation de l’usage de l’intelligence artificielle ne sera pas une exception comme aujourd’hui. Or, cette technologie comporte de nombreux défis qui vont amener la règlementation à une constance évolution, notamment au regard des enjeux éthiques que soulève cette technologie, de surcroit aggravés par les problématiques inhérentes à la régulation des algorithmes qui demeure difficile en raison de l’évolutivité de la technologie et du caractère confidentiel et concurrentiel des développements. A cet égard, l’élaboration d’une stratégie marocaine propre à l’intelligence artificielle visant à mettre cette technologie au service des citoyens, tout en stimulant la compétitivité du pays dans ce domaine, est indispensable. Cette réflexion doit être amorcée en cohérence avec les objectifs poursuivis par le Nouveau modèle de développement en vue de transformer notre potentiel scientifique en émergence économique, le tout pour un développement plus inclusif, plus durable et maitrisé.