Le PDG d'OpenAI, Sam Altman, la vice-présidente de la confiance et de la confidentialité d'IBM, Christina Montgomery, et le professeur émérite de la NYU, Gary Marcus, témoigneront devant le Congrès le 16 mai sur la réglementation et la surveillance de l'IA. Alors que les détails sur l'ordre du jour de l'audience restent rares, le titre "AI Oversight: Rules for Artificial Intelligence" suggère que la discussion se concentrera sur la sécurité et la confidentialité. Marcus, qui a récemment exprimé son soutien à une "pause" dirigée par la communauté sur le développement de l'IA pendant six mois, est le seul cas particulier parmi les participants programmés.
L'idée de Marcus d'une interruption de l'IA a été exposée dans une lettre ouverte publiée sur le site Web du Future of Life Institute le 22 mars, qui a recueilli plus de 27 500 signatures. L'objectif de la lettre est "d'appeler tous les laboratoires d'IA à suspendre immédiatement la formation des systèmes d'IA plus puissants que GPT-4 pendant au moins 6 mois".
Le PDG d'OpenAI et Christina Montgomery font partie de ceux qui s'opposent à la pause. Montgomery pense qu'une pause générale dans l'éducation à l'IA, associée aux tendances existantes qui semblent déprioriser l'investissement dans les efforts éthiques de l'IA dans l'industrie, ne fera que causer plus de dommages et de revers. IBM pense que l'IA devrait être réglementée en fonction du risque.
IBM et OpenAI prennent des positions opposées sur l'éthique de l'IA
OpenAI est responsable de ChatGPT , sans doute la technologie d'intelligence artificielle la plus populaire qui existe. Altman soutient le développement sûr et éthique des systèmes d'IA, mais croit qu'il faut « impliquer tout le monde dans la discussion » et « diffuser ces systèmes dans le monde ». Montgomery, membre du Conseil consultatif national américain sur l'IA, a préconisé une approche plus nuancée de la réglementation de l'IA, soulignant la nécessité de donner la priorité à l'éthique.
La prochaine audience du Sénat servira probablement de forum aux membres du Congrès pour poser des questions. Selon les experts que vous croyez, la discussion pourrait avoir des ramifications perturbatrices. Si le Congrès détermine que la réglementation de l'IA mérite une main lourde, Montgomery craint que de tels efforts n'aient un effet dissuasif sur l'innovation sans nécessairement répondre aux problèmes de sécurité.
Ces dommages pourraient s'infiltrer dans les secteurs d'activité où la technologie GPT alimente une pléthore de bots et de services. Des experts comme Marcus et Elon Musk craignent que le fait de ne pas mettre en œuvre ce qu'ils considèrent comme une politique de bon sens liée à la surveillance de l'IA puisse conduire à une crise existentielle pour l'humanité.
La prochaine audience du Sénat abordera probablement la nécessité d'une réglementation et d'une surveillance de l'IA . Alors qu'Altman et Montgomery s'opposent à une pause générale sur le développement de l'IA, Marcus la soutient. La discussion pourrait avoir des conséquences perturbatrices selon que le Congrès décidera si la réglementation de l'IA mérite ou non une main lourde. Alors que Montgomery craint un effet dissuasif sur l'innovation, Marcus et Musk craignent qu'un échec à mettre en œuvre une politique de bon sens puisse conduire à une crise existentielle pour l'humanité.