31/03/2024

Qui possède quoi sur les créations générées par l’IA ? Dans son analyse, Etienne Papin, associé et fondateur de NEXT avocats, revient sur les premières jurisprudences du droit de l'internet en 1996 et anticipe le traitement judiciaire qui sera réservé à l'IA.

A lire ici.

14/03/2024

L’Europe a donc décidé de réglementer l’IA. Est-ce que les 457 pages du règlement sur l’Intelligence Artificielle permettront de prévenir les risques avérés ou supposés qu’engendre l’IA ?

Au-delà des déclarations optimistes faites par les membres de la Commission Européenne, le lecteur de ces 457 pages se doit d’être plus circonspect.

Une chose est certaine : avec ce règlement, les institutions européennes se sont surpassées. Qu’on en juge :

● un nombre record de considérants (180 !) et de définitions (68 !) ;

● des définitions qui appartiennent parfois plus à la philosophie qu’au droit (exemple : "risque" : la combinaison de la probabilité d'un dommage et de la gravité de ce dommage) ou qui relèvent de la tautologie ("mise à disposition sur le marché" : toute fourniture d'un système d'IA ou d'un modèle d'IA à usage général en vue de sa distribution ou de son utilisation sur le marché de l'Union dans le cadre d'une activité commerciale, que ce soit à titre onéreux ou gratuit) ;

● des principes assortis d’exceptions… elles-mêmes assorties d’exceptions ;

● plus d’une dizaine d’actes délégués devant être pris par la Commission ;

● l’entrée du logiciel dans le monde de la certification et du marquage CE ;

● l’arlésienne des « codes de conduite » ;

● la création de nouvelles institutions : Office européen de l’IA, Comité européen de l'intelligence artificielle, Forum consultatif, Panel d’experts indépendants, Autorités compétentes nationales ;

● Etc.

Vous développez, vous distribuez ou vous utiliser les logiciels ? Attention, de gré ou de force, vous allez devoir vous approprier cette nouvelle législation qui s’applique nécessairement à vous.

Directions informatiques, directions générales, directions des achats, directions juridiques : vous ne pourrez plus acquérir et utiliser des solutions logicielles comme avant. L’IA sera partout, le règlement IA également !

11/12/2023

En Intelligence Artificielle, l’Union Européenne est la 1ère… à réglementer.

Qu’y a-t-il dans l’accord intervenu le 8 décembre entre le Conseil et le Parlement sur le contenu du Règlement sur l’Intelligence Artificielle ? Tout n’est pas encore connu et il faudra attendre une version consolidée du texte. Voici ce que nous savons déjà.

Les systèmes d’IA sont régulés selon leur niveau de risque :

●Risque limité ➡️ Simples obligations de transparence et d’information à la charge du fournisseur

●Risque élevé : IA utilisée dans les 8️⃣ domaines suivants : Systèmes biométriques et fondés sur la biométrie / Management et opération d’infrastructures critiques / Education et formation professionnelle / Recrutement et gestion des ressources humaines / Accès aux services publics ou services essentiels / Police / Immigration, gestion du droit d’asile, contrôle des frontières / Justice ➡️ Obligations techniques particulières à respecter pour le fournisseur.

●Risque inacceptable : IA destinée à manipuler les comportements humains / exploiter les vulnérabilités des personnes / permettre la notation sociale par les autorités publiques ➡️ Interdiction totale sauf exceptions.

L’accord intervenu entre le Conseil et le Parlement doit permettre de clarifier :

- les responsabilités respectives des fournisseurs et utilisateurs des systèmes d’IA ;
- les règles applicables aux système d’IA à usage général. Un organe ad hoc auprès de la Commission européenne sera chargé de les surveiller ;
- les règles applicables aux modèles de fondation.

Des inquiétudes demeurent en matières de libertés publiques s’agissant de l’utilisation de l’IA par les autorités de police, notamment pour la reconnaissance faciale en directe dans l’espace public. v Des sanctions pouvant aller jusqu’à 35 millions d’euros ou 7% du CA mondial pourront être prononcées en cas de non respect du règlement.

Après sa publication au JOUE, le règlement devrait entrer en vigueur fin 2025.

Le communiqué de presse

31/10/2023

L’UE et les autres membres du G7 appellent les organisations qui fournissent, développent, déploient et utilisent des systèmes d’IA avancés à respecter les principes suivants :

● Identifier, évaluer et atténuer les risques tout au long du cycle de vie de l’IA.
● Mettre en place un système de surveillance et d’atténuation des vulnérabilités, des incidents, des risques et des abus, y compris après mise sur le marché.
● Rendre compte publiquement des capacités, des limites et des domaines d’utilisation des systèmes d’IA dans un but de responsabilisation et de transparence accrue.
● Encourager le partage responsable d’informations et le signalement d’incidents entre les organisations développant des systèmes avancés d’IA.
● Élaborer et divulguer des politiques de gouvernance de l’IA et de gestion des risques.
● Adopter des mesures de protection contre les menaces internes tout au long du cycle de vie de l’IA.
● Développer des mécanismes fiables d’authentification et de provenance du contenu crée avec l’IA avancé.
● Prioriser la recherche pour atténuer les risques pour la société et la sécurité et prioriser l’investissement dans des mesures d’atténuation efficaces.
● Donner la priorité au développement de systèmes d’IA avancés pour relever les défis mondiaux, notamment la crise climatique, la santé mondiale, l’éducation.
● Promouvoir l’élaboration et l’adoption de normes techniques internationales.
● Mettre en œuvre des mesures appropriées de protection des données personnelles et de la propriété intellectuelle.

Ces principes ont servi de base à l’élaboration d’un code de conduite afin de fournir des orientations pratiques et détaillées aux organisations qui développent l’IA : gestion des risques, suivi post-déploiement, transparence, partage d’informations, gouvernance, contrôles de sécurité, authentification des contenus.

Selon la Commission européenne : « Ces principes et le code de conduite volontaire compléteront, au niveau international, les règles juridiquement contraignantes auxquelles les colégislateurs de l'UE mettent actuellement un point final dans le cadre de la législation de l'Union sur l'IA.

Les principes directeurs internationaux du G7 en matière d’IA

Le code de conduite international du G7 en matière d’IA

26/10/2023

Adoption du règlement de l’UE sur l’intelligence artificielle : les recommandations du European Data Protection Supervisor.

Présenté en avril 2021 par la Commission européenne, le règlement sur l’IA vient de franchir une nouvelle étape. L’EDPS - European Data Protection Supervisor a publié le 24 octobre 2023 son avis sur le projet de texte. Que suggère l’EDPS ?

● De supprimer l’exemption d’application du règlement aux systèmes d’IA à haut risque existants à la date d’entrée en vigueur du règlement.
● De permettre aux personnes concernées par l’utilisation des systèmes d’IA d’introduire une plainte devant une autorité compétente en incluant explicitement la compétence de l’EDPS à recevoir les plaintes.
● De clarifier la définition des « fournisseurs » de systèmes d’IA qui sont les débiteurs de la plupart des obligations figurant dans le projet de règlement.
● De supprimer l’exemption d’application du règlement aux systèmes d’IA utilisé dans le cadre de la coopération internationale.
● Que soit clarifié son rôle, ses missions et ses pouvoirs dans le cadre du règlement.

L’adoption par le Parlement européen le 16 juin 2023 du projet modifié de règlement a initié le cycle de négociations en « trilogue » entre la Commission, le Conseil et le Parlement européen. Le 5ème cycle de négociation a débuté le 24 octobre 2023.

Le communique de presse sur les recommandations finales du EDPS.