Parmi les signataires, outre le co- fondateur d'Apple, Steve Wozniak, il y a aussi Elon Musk, qui a fondé OpenAI avec Sam Altman. Le manifeste appelle à la prudence lors de la mise à niveau de ChatGpt et autres. Tous les détails
Ne nourrissez pas l'IA . C'est en substance l'appel lancé par plus de 1100 personnalités de la scène technologique et de la recherche conscientes que les intelligences artificielles sont des algorithmes capables d'apprendre et d'affiner, se nourrissant – précisément – de toute information et interaction. Des personnalités faisant la promotion d'un véritable manifeste appelant à la prudence sur le développement de tout type de test d'intelligence artificielle plus puissant que le GPT-4 du Future of Life Institute , une organisation à but non lucratif.
QUI A SIGNÉ LE MANIFESTE ANTI CHATGPT
Parmi les signataires, outre le co-fondateur d'Apple, Steve Wozniak , Evan Sharp (Co-Fondateur de Pinterest), Chris Larsen (Co-Fondateur de Ripple), des ingénieurs et développeurs d'Amazon, Meta et Google, on retrouve également Elon Musk , un entrepreneur qui a lui-même fondé OpenAI avec Sam Altman .
Et la technologie citée et interdite est précisément celle sous-jacente à ChatGPT, le logiciel créé par l'éditeur de logiciels américain qui a déjà surpris de nombreuses personnes pour sa capacité à générer des textes convaincants sur un nombre presque illimité de sujets.
L'adhésion de Musk peut sembler suspecte, visant à promouvoir positivement les capacités du logiciel qu'il a aidé à créer. Mais le problème sur la table est indépendamment de la présence du magnat sud-africain plus connu pour Tesla.
CE QUE DEMANDENT LES SIGNATAIRES
"Les systèmes d'IA dotés d'une intelligence compétitive avec les humains peuvent présenter des risques profonds pour la société et l'humanité, comme le démontrent des recherches approfondies et reconnus par les meilleurs laboratoires d'IA", lit le texte qui se poursuit par une série de Questions : "Devrait-on laisser les machines inonder nos chaînes d'information de propagande et de mensonges ? Doit-on automatiser toutes les tâches, y compris les plus satisfaisantes ? Devrions-nous développer des esprits non humains qui pourraient éventuellement nous dépasser en nombre, être plus intelligents, obsolètes et nous remplacer ? Devrions-nous risquer de perdre le contrôle de notre civilisation ? Ces décisions ne doivent pas être déléguées à des leaders technologiques non élus."
UNE PAUSE POUR LA RÉFLEXION
La demande des signataires de ce que la presse a surnommé le "manifeste anti-ChatGpt" est une pause d'au moins six mois de toutes les activités des laboratoires d'IA les plus puissants du GPT-4 : "Cette pause doit être publique et vérifiable et inclure tous les acteurs clés. Si cette pause ne peut pas être mise en œuvre rapidement, les gouvernements devraient intervenir et instituer un moratoire."
Les appelants ajoutent : "Les laboratoires d'IA et les experts indépendants devraient profiter de cette pause pour développer et mettre en œuvre conjointement un ensemble de protocoles de sécurité partagés pour la conception et le développement avancés de l'IA, rigoureusement contrôlés et supervisés par des experts externes indépendants."
En bref, nous semblons avoir atteint le point où la science et la science-fiction fusionnent et les trois lois de la robotique d'Isaac Asimov prennent vie. Ou plutôt, ils prennent forme précisément pour éviter que les ChatGpts et consorts ne prennent trop de vie, grâce à un cordon de sécurité (même éthique) à préparer avant d'autres développements
Dans la lettre ouverte, les signataires rappellent d'autres principes, ceux d'Asilomar pour l'intelligence artificielle, selon lesquels « une IA avancée pourrait représenter un changement profond dans l'histoire de la vie sur Terre et devrait être planifiée et gérée avec soin et avec des ressources adéquates. Malheureusement, ce niveau de planification et de gestion ne se produit pas." Pour les signataires, "les laboratoires d'IA se sont lancés dans une course effrénée pour développer et employer des esprits numériques toujours plus puissants que personne – pas même leurs créateurs – ne peut comprendre, prédire ou contrôler de manière fiable".
Un manifeste dérangeant, peut-être exagéré dans le ton, certainement capable de faire de la publicité pour ChatGpt et les entreprises qui développent des algorithmes similaires mieux que toute autre publicité . Et si tel était le but, espérons au moins que l'idée ne soit pas née d'une intelligence artificielle : ceux qui travaillaient dans le marketing étaient assez mauvais.
Cet article est une traduction automatique de la langue italienne d’un article publié sur le magazine Début Magazine à l’URL https://www.startmag.it/innovazione/il-manifesto-dei-prof-e-manager-anti-chatgpt-cosa-chiede-chi-teme-una-ia-troppo-scaltra/ le Thu, 30 Mar 2023 08:22:31 +0000.