Le projet de loi d'un sénateur démocrate de Californie visant à réglementer l'IA a divisé non seulement le parti mais aussi les grandes entreprises technologiques qui la développent. Voici ce qu'en pensent OpenAI, Google, Meta, Musk's xAI et Anthropic, financés entre autres par Bezos
Réglementation et Musk sont deux mots qui ne font souvent pas bon ménage. Pourtant, le PDG de Tesla et fondateur de la société d’intelligence artificielle xAI vient d’apporter son soutien à un projet de loi californien visant à réglementer l’IA.
Si Anthropic et d'autres acteurs majeurs du secteur ont également salué l'idée avancée par le sénateur démocrate Scott Wiener, certains membres du parti, dont Nancy Pelosi, et plusieurs grandes entreprises technologiques se sont déclarés catégoriquement contre.
CE QUE PRÉVOIT LA LOI
Le projet de loi, SB 1047 , également connu sous le nom de Safe and Secure Innovation for Frontier Artificial Intelligence Models Act, explique Quartz , oblige les entreprises qui ont dépensé plus de 100 millions de dollars à développer un modèle d'IA, ou un modèle qui atteint un certain seuil de puissance de calcul. , pour mettre en œuvre des garanties et effectuer des tests de sécurité. Le procureur général de l’État aurait également le pouvoir de prendre des mesures contre les développeurs dont le modèle cause « un préjudice grave ».
Les entreprises devront également prévoir un interrupteur pour arrêter instantanément leurs modèles à tout moment.
« Le SB 1047 – a déclaré Wiener – est un projet de loi extrêmement raisonnable qui demande aux grands laboratoires d'IA de faire ce qu'ils se sont déjà engagés à faire, c'est-à-dire de tester leurs grands modèles pour détecter les risques de sécurité catastrophiques ».
LE SOUTIEN DE MUSC
"C'est une décision difficile qui mettra certaines personnes en colère, mais, tout bien considéré, je pense que la Californie devrait probablement adopter le SB 1047 sur la sécurité de l'IA", a écrit Musk sur son X. "Je suis un défenseur depuis plus de 20 ans de la réglementation. L’IA, tout comme nous réglementons tout produit/technologie qui présente un risque potentiel pour le public. ( Sauf , dans le cas de
C’est une décision difficile et cela va contrarier certaines personnes, mais, tout bien considéré, je pense que la Californie devrait probablement adopter le projet de loi SB 1047 sur la sécurité de l’IA.
Depuis plus de 20 ans, je défends la réglementation de l’IA, tout comme nous réglementons tout produit/technologie présentant un risque potentiel…
– Elon Musk (@elonmusk) 26 août 2024
De plus, bien qu'il ait par le passé exhorté les principaux laboratoires d'IA à suspendre la formation de nouveaux systèmes surpuissants, Musk a secrètement fondé xAI et lancé le chatbot Grok qui permet aux utilisateurs de créer et de publier des images générées par ordinateur à partir d'une requête textuelle. sonner l'alarme sur la désinformation et les contrefaçons profondes qui inondent X.
LA LOI SUR L’IA DIVISE LES DÉMOCRATES
Le projet de loi a été adopté par le Sénat de l'État de Californie et devrait être voté par l'Assemblée de l'État plus tard cette semaine, avant de revenir au Sénat pour un vote final.
Bien que la proposition ait été avancée par le démocrate Wiener, certains membres éminents du même parti politique, dont les représentants américains Nancy Pelosi et Ro Khanna, s'y sont opposés.
LES ENTREPRISES TECH EN FAVEUR…
Outre Musk qui s’est déclaré favorable au projet de loi visant à réglementer l’IA, d’autres grandes entreprises technologiques le soutiennent également, tout en suggérant quelques changements.
Wiener, rapporte Reuters , a en fait éliminé certains aspects précédemment prévus, notamment les sanctions pénales pour parjure et la création d'un comité gouvernemental de surveillance dédié à l'IA. Le sénateur a été conseillé en partie par Anthropic, une société d'IA soutenue par Amazon et fondée par un ancien ingénieur OpenAI, qui a formulé une série de recommandations.
En outre, dans unelettre envoyée plus tôt ce mois-ci au gouverneur de Californie Gavin Newsom, qui doit finalement signer la proposition avant le 30 septembre, Anthropic a déclaré que « les avantages du SB 1047 dépassent probablement ses coûts », même si elle n'en est pas entièrement sûre car certains certains aspects semblent « inquiétants ou ambigus ».
Comme le rapporte Quartz , la Chambre du Progrès, un groupe technologique progressiste qui travaille avec des entreprises comme Apple et Lyft, a également retiré son opposition au projet de loi, soutenue par le Center for AI Safety, entre autres, par l'ancien employé d'OpenAI Daniel Kokotajlo. et par les « parrains de l’IA » Geoffrey Hinton et Yoshua Bengio.
…ET LES OPPOSÉS
Au contraire, cela a suscité le scepticisme d’autres grands noms de la Silicon Valley. Tout d’abord OpenAI, selon lequel il ralentirait les progrès et pousserait les entreprises à innover ailleurs. Mais Google et Meta ont également exprimé leurs inquiétudes concernant le projet de loi, tout comme Marc Andreessen et Ben Horowitz de la société de capital-risque a16z. Dans la même veine se trouve l’autre « parrain de l’IA » et scientifique en chef de Meta, Yann LeCun.
"La Californie devrait être à l'avant-garde de l'accélération de l'IA (en toute sécurité), et non de la création d'un plan pour ralentir les choses", a écrit dimanche dernier Aaron Levie, PDG de la société cloud Box, dans X. « Il est tout simplement trop tôt pour ralentir les progrès. »
LA RÉPONSE DE WIENER
Wiener a répondu à chacun d’entre eux dans une interview accordée à The Atlantic : « Chaque fois que vous essayez de réglementer une industrie, même de manière légère – et cette législation est légère – vous rencontrerez une résistance. Et particulièrement avec l’industrie technologique.
« Il s’agit d’une industrie qui s’est très, très bien habituée à ne pas être réglementée dans l’intérêt public. Et je dis cela en tant que partisan de l’industrie technologique de San Francisco depuis de nombreuses années ; Je ne suis absolument pas contre la technologie. Mais nous devons aussi être conscients de l'intérêt public – a expliqué Wiener -. Il n’est pas du tout surprenant qu’il y ait eu des réactions négatives. Et je respecte les réactions. C'est la démocratie. Je ne respecte pas certaines des craintes et des informations erronées propagées par Andreessen Horowitz et d'autres."
Cet article est une traduction automatique de la langue italienne d’un article publié sur le magazine Début Magazine à l’URL https://www.startmag.it/innovazione/elon-musk-vuole-davvero-mettere-un-freno-intelligenza-artificiale/ le Sun, 01 Sep 2024 04:27:31 +0000.