OpenAI, l'organisation à l'origine du chatbot IA ChatGPT, a lancé une initiative visant à favoriser une plus grande implication démocratique dans le développement de l'intelligence artificielle. Dans une annonce récente du 25 mai, OpenAI a révélé son intention d'attribuer dix subventions, chacune d'une valeur de 100,000 XNUMX $, pour soutenir des expériences axées sur l'établissement d'un processus démocratique de «preuve de concept» pour déterminer les règles que les systèmes d'IA devraient suivre.
La société a souligné que ces règles doivent s'aligner sur les limites légales et donner la priorité au bénéfice de l'humanité. OpenAI considère ce programme de subventions comme une étape vers la création de processus démocratiques pour superviser l'AGI (intelligence générale artificielle) et, éventuellement, la superintelligence. Les expériences menées grâce à ces subventions serviront de base à un projet mondial à plus grande échelle et plus ambitieux à l'avenir. OpenAI a précisé que les conclusions tirées de ces expériences ne seront pas contraignantes mais contribueront à explorer des questions importantes concernant la gouvernance de l'IA.
Les subventions sont financées par la division à but non lucratif d'OpenAI, et l'organisation a l'intention de rendre les résultats du projet librement accessibles au public. Cette initiative survient alors que les gouvernements du monde entier envisagent de mettre en œuvre des réglementations pour l'IA générative à usage général.
Adoption d'OpenAI
Le PDG d'OpenAI, Sam Altman, s'est récemment engagé auprès des régulateurs européens pour souligner l'importance de favoriser l'innovation par le biais de réglementations non restrictives. Altman a également témoigné devant le Congrès des États-Unis, transmettant un message similaire.
L'annonce d'OpenAI s'aligne sur la conviction que les lois doivent être spécifiquement adaptées à la technologie, soulignant la nécessité de directives plus complexes et adaptables régissant la conduite de l'IA. L'organisation a posé des questions stimulantes, telles que la manière dont les opinions contestées devraient être représentées dans les résultats de l'IA, soulignant qu'aucune entité unique, qu'il s'agisse d'un individu, d'une entreprise ou d'un pays, ne devrait dicter unilatéralement de telles décisions.
La société a déjà mis en garde contre l'émergence potentielle d'une IA surhumaine au cours de la prochaine décennie si le développement n'est pas abordé de manière réfléchie, soulignant l'importance de "faire les choses correctement". Le nouveau programme de subventions de l'organisation vise à promouvoir l'inclusivité et la contribution du public pour façonner l'avenir du développement de l'IA, en s'efforçant en fin de compte pour l'avancement responsable et bénéfique de la technologie.
Source : https://www.cryptopolitan.com/openai-unveils-1-million-grant-program/