Les fournisseurs d\u2019IA (entreprises qui cr\u00e9ent ou modifient un outil d\u2019IA) doivent \u00e9tablir une documentation claire permettant de savoir d\u2019o\u00f9 viennent les donn\u00e9es utilis\u00e9es, comment fonctionne l\u2019outil, quelles sont ses limites ou erreurs possibles, et pr\u00e9sente-t-il des risques de biais ou de discriminations ? Et plus pr\u00e9cis\u00e9ment :<\/p>\n
Les fournisseurs d\u2019IA doivent \u00e9galement prouver que ces outils ne g\u00e9n\u00e8rent pas de \u00ab risque syst\u00e9mique \u00bb. Concr\u00e8tement, il s\u2019agit de v\u00e9rifier que l\u2019IA ne cr\u00e9e pas de danger, c’est \u00e0 dire <\/span>\u00ab un risque sp\u00e9cifique aux capacit\u00e9s \u00e0 fort impact des mod\u00e8les d\u2019IA \u00e0 usage g\u00e9n\u00e9ral, ayant une incidence significative sur le march\u00e9 de l\u2019Union en raison de leur port\u00e9e ou d\u2019effet n\u00e9gatifs r\u00e9els ou raisonnablement pr\u00e9visibles sur la sant\u00e9 publique, la s\u00fbret\u00e9, la s\u00e9curit\u00e9 publique, les droits fondamentaux ou la soci\u00e9t\u00e9 dans son ensemble, pouvant \u00eatre propag\u00e9 \u00e0 grande \u00e9chelle tout au long de la cha\u00eene de valeur \u00bb (Article 3, 65, du RIAct). Ils doivent envoyer cette documentation \u00e0 la Commission europ\u00e9enne.<\/p>\n La CGT revendique que les outils d\u2019IA soient certifi\u00e9s en amont<\/a> par des instances pluralistes, ind\u00e9pendantes et repr\u00e9sentatives de la soci\u00e9t\u00e9 civile, afin de garantir l\u2019explicabilit\u00e9, la fiabilit\u00e9, et l\u2019absence de biais syst\u00e9matiques de l\u2019IA.<\/p>\n D\u00e8s qu\u2019une entreprise cr\u00e9e ou ach\u00e8te un outil d\u2019IA et le modifie pour r\u00e9pondre \u00e0 ses besoins, elle devient elle-m\u00eame \u00ab fournisseur d\u2019IA \u00bb. Elle est donc soumise aux obligations du r\u00e8glement.<\/p>\n Cela signifie que les repr\u00e9sentant\u00b7es du personnel peuvent exiger :<\/p>\n de v\u00e9rifier que les IA utilis\u00e9es respectent bien la loi,<\/p>\n<\/li>\n d\u2019avoir acc\u00e8s \u00e0 la documentation,<\/p>\n<\/li>\n de savoir si les IA de l\u2019entreprise sont class\u00e9es ou non \u00ab \u00e0 risque syst\u00e9mique \u00bb par la Commission europ\u00e9enne. En France, une \u00ab autorit\u00e9 nationale comp\u00e9tente \u00bb doit contr\u00f4ler l\u2019application de ces obligations. Pour l\u2019instant, la Cnil n\u2019a pas \u00e9t\u00e9 officiellement d\u00e9sign\u00e9e pour assurer cette mission.<\/p>\n Cette mise en application est une bonne occasion de demander un \u00e9tat des lieux s\u00e9rieux des outils d\u2019IA dans l\u2019entreprise .Que se passe-t-il dans les entreprises ?<\/h3>\n
\n
Une \u00ab autorit\u00e9 nationale comp\u00e9tente \u00bb est charg\u00e9e du contr\u00f4le du respect de ces obligations. Pour l\u2019instant la Cnil n\u2019a pas \u00e9t\u00e9 formellement d\u00e9sign\u00e9e pour mettre en \u0153uvre cette mission.\u00a0<\/p>\n<\/li>\n<\/ul>\nUn nouvel outil pour agir dans les CSE<\/h3>\n
Vous trouverez ci-apr\u00e8s un mod\u00e8le de courrier \u00e0 transmettre \u00e0 l\u2019employeur pour qu\u2019il ouvre le d\u00e9bat dans le CSE, voire des n\u00e9gociations dans l\u2019entreprise.<\/p>\nMod\u00e8le de courrier \u00e0 destination de l\u2019employeur :
\u00a0<\/h4>\n