Au cours des deux années pendant lesquelles les législateurs ont négocié les règles convenues aujourd’hui, la technologie de l’IA et les principales préoccupations à son sujet ont radicalement changé. Lorsque la loi sur l’IA a été conçue en avril 2021les décideurs politiques s'inquiétaient des algorithmes opaques qui décidaient qui obtiendrait un emploi, se verrait accorder le statut de réfugié ou bénéficier des prestations sociales. En 2022, il y avait des exemples où l’IA nuisait activement aux gens. Dans un scandale néerlandais, les décisions prises par des algorithmes ont été lié aux familles séparées de force de leurs enfants, tandis que les étudiants qui étudiaient à distance alléguaient que les systèmes d'IA les discriminaient sur la base des couleur de leur peau.
Puis, en novembre 2022, OpenAI a publié ChatGPT, changeant radicalement le débat. Le bond en avant dans la flexibilité et la popularité de l'IA a été déclenché alarme chez certains experts en IAqui a dessiné hyperbolique comparaisons entre l’IA et les armes nucléaires.
Cette discussion s'est manifestée lors des négociations sur l'IA Act à Bruxelles sous la forme d'un débat sur la question de savoir si les créateurs de soi-disant modèles de fondation tels que celui derrière ChatGPTcomme OpenAI et Google, devraient être considérés comme à l’origine de problèmes potentiels et réglementés en conséquence – ou si les nouvelles règles devraient plutôt se concentrer sur les entreprises utilisant ces modèles fondamentaux pour créer de nouvelles applications basées sur l’IA, telles que des chatbots ou des générateurs d’images.
Les représentants de l'industrie européenne de l'IA générative ont exprimé leur prudence quant à la réglementation des modèles de fondation, affirmant que cela pourrait entraver l'innovation parmi les startups de l'IA du bloc. « Nous ne pouvons pas réglementer un moteur sans usage », Arthur Mensch, PDG de la société française d'IA Mistral, dit le mois dernier. « Nous ne réglementons pas le langage C (de programmation) car on peut l'utiliser pour développer des logiciels malveillants. Au lieu de cela, nous interdisons les logiciels malveillants. Le modèle de fondation 7B de Mistral serait exempté selon les règles convenues aujourd'hui car l'entreprise est encore en phase de recherche et de développement, a déclaré Carme Artigas, secrétaire d'État espagnole à la numérisation et à l'intelligence artificielle, lors de la conférence de presse.
Le principal point de désaccord lors des discussions finales qui se sont déroulées tard dans la nuit à deux reprises cette semaine était de savoir si les forces de l'ordre devraient être autorisées à utiliser la reconnaissance faciale ou d'autres types de biométrie pour identifier les personnes, soit en temps réel, soit rétrospectivement. « Les deux détruisent l'anonymat dans les espaces publics », déclare Daniel Leufer, analyste politique principal au sein du groupe de défense des droits numériques Access Now. L'identification biométrique en temps réel peut identifier une personne se trouvant actuellement dans une gare à l'aide des flux de caméras de sécurité en direct, explique-t-il, tandis que l'identification biométrique « post » ou rétrospective peut déterminer que la même personne a également visité la gare, une banque et un supermarché hier, en utilisant des images ou des vidéos préalablement stockées.
Leufer s’est dit déçu par les « failles » pour l’application de la loi qui semblent avoir été intégrées dans la version de la loi finalisée aujourd’hui.
La lenteur avec laquelle les régulateurs européens réagissent à l'émergence de l'ère des médias sociaux a dominé les discussions. Près de 20 ans se sont écoulés entre le lancement de Facebook et l'adoption de la loi sur les services numériques, la Un règlement de l'UE conçu pour protéger les droits de l'homme en ligne… qui entre en vigueur cette année. À cette époque, le bloc était contraint de faire face aux problèmes créés par les plateformes américaines, tout en étant incapable de soutenir ses petits challengers européens. « Peut-être aurions-nous pu mieux prévenir (les problèmes) grâce à une réglementation plus précoce », a déclaré à WIRED Brando Benifei, l'un des deux principaux négociateurs du Parlement européen, en juillet. La technologie de l’IA évolue rapidement. Mais il faudra encore de nombreuses années avant qu'il soit possible de dire si la loi sur l'IA réussit mieux à contenir les inconvénients de la dernière exportation de la Silicon Valley.