OpenAI a publié un article de blog appelant à des efforts pour réglementer la superintelligence de la même manière que l'énergie nucléaire est réglementée. Il suggère la création éventuelle d'une agence comme celle de l'AIEA.
OpenAI, le créateur de la sensation d'intelligence artificielle ChatGPT, a proposé une réglementation de l'IA, en particulier de la superintelligence de l'IA, similaire à l'énergie nucléaire. La société a publié un article le 22 mai sur la façon dont le développement rapide de l'IA pourrait avoir un impact sur le monde et le besoin de gouvernance qui en découle.
OpenAI propose un règlement sur la superintelligence
Le message commençait par déclarer que "les systèmes d'IA dépasseront le niveau de compétence des experts dans la plupart des domaines et fonctionneront de manière aussi productive que l'une des plus grandes entreprises d'aujourd'hui". Il est donc nécessaire d'atténuer les risques de menace existentielle au même titre que les actions menées pour l'énergie nucléaire.
Les auteurs du message – Sam Altman, Greg Brockman et Ilya Sutskever – ont déclaré qu'il y aurait éventuellement un besoin pour quelque chose comme l'Agence internationale de l'énergie atomique (AIEA). Cette agence aiderait à gouverner les efforts de super-espionnage et aurait besoin d'une bonne dose de coopération et de coordination à l'échelle mondiale.
Le message a également précisé qu'il est important de permettre "aux entreprises et aux projets open source de développer des modèles en dessous d'un seuil de capacité significatif, sans le type de réglementation".
OpenAI Envisager des décisions démocratiques sur l'IA
La stratégie d'OpenAI pour encourager la réglementation de l'IA comprend une prise de décision collective, similaire aux entrées de Wikipedia . Le président Greg Brockman a déclaré que la société évaluera les moyens de recueillir les commentaires des différentes parties sur les décisions. L'objectif est d'assurer une prise de décision démocratique.
Brockman a déclaré: "Nous ne sommes pas simplement assis dans la Silicon Valley en pensant que nous pouvons écrire ces règles pour tout le monde", bien qu'il y aura certainement des défis à créer un tel système. Comme Sam Altman, lui aussi était fortement axé sur la coopération internationale pour la réglementation de l'IA.
La course à la régulation de l'IA s'intensifie
La question de savoir comment réguler l'IA est dans tous les esprits. Ceux qui sont dans le vif du sujet réclament également une réglementation . Altman a refusé l'opportunité de devenir le principal régulateur américain de l'IA. Au lieu de cela, lors d'une audience au Congrès, il a exhorté les États-Unis à assumer la responsabilité de la réglementation.
Les États-Unis sont susceptibles de créer une agence dédiée à la supervision de l'IA. D'autres pays emboîtent le pas, la Chine étant particulièrement enthousiasmée par les interdictions et les limitations de l'IA . Semblable au marché de la crypto-monnaie dans le passé, l'industrie de l'IA pourrait également faire l'objet d'une réglementation sévère et stricte. Ce règlement se concentrerait principalement sur des aspects tels que la vie privée, la prévention de l'ingérence dans les élections et l'établissement de normes mondiales.
Le développeur post ChatGPT OpenAI propose une réglementation inspirée de l'énergie nucléaire pour la superintelligence apparu pour la première fois sur BeInCrypto .