Le directeur général d'OpenAI, Sam Altman, s'adressera la semaine prochaine au Conseil de sécurité des Nations unies lors de la réunion annuelle de l'Assemblée générale à New York. La séance du mercredi portera sur l'intelligence artificielle et la sécurité internationale, quelques semaines après que plusieurs dirigeants du secteur ont appelé à un ralentissement coordonné du développement de cette technologie. L'intervention d'Altman portera sur les mesures prises par OpenAI pour garantir la sécurité de l'IA et sur la nécessité de normes internationales communes.
Quel est le contexte de l'intervention de Sam Altman devant le Conseil de sécurité ?
Le Conseil de sécurité, organe de quinze membres chargé du maintien de la paix et de la sécurité internationales, se réunira mercredi à New York. La séance ouverte portera sur l'intelligence artificielle et ses implications pour la stabilité mondiale. Cette réunion intervient dans le cadre de la semaine de l'Assemblée générale des Nations unies, qui réunit chaque année les dirigeants mondiaux. Sam Altman prendra la parole en personne. Selon un porte-parole d'OpenAI, ses propos porteront sur les actions concrètes de l'entreprise pour assurer que l'IA reste sûre et bénéfique à l'échelle mondiale, ainsi que sur l'importance d'une coordination internationale et de normes de sécurité partagées. Le Conseil de sécurité des Nations unies se réunira avec ce thème précis dans le contexte plus large des préoccupations croissantes liées aux risques de l'IA. L'annonce précise que la séance aura lieu pendant la période de la réunion annuelle des dirigeants mondiaux à New York.
Sam Altman s'exprimera directement devant les membres lors d'une session ouverte. Le porte-parole d'OpenAI a indiqué que les déclarations mettront l'accent sur les étapes entreprises par l'entreprise afin de rendre l'intelligence artificielle sûre et utile pour les populations du monde entier. Il soulignera également le besoin d'une coordination internationale renforcée ainsi que l'établissement de standards de sécurité communs. Ces éléments seront au cœur de l'intervention prévue la semaine suivante. L'intervention se déroulera dans le cadre des discussions sur la manière dont l'IA pourrait bientôt s'améliorer de manière autonome et échapper au contrôle humain, un point soulevé par plusieurs dirigeants du secteur quelques semaines auparavant.
Pourquoi le Conseil de sécurité s'intéresse-t-il à l'intelligence artificielle ?
Le Conseil de sécurité a déjà abordé les risques liés à l'IA lors d'une première réunion en 2023. À cette occasion, la Chine avait averti que l'intelligence artificielle ne devait pas devenir « un cheval qui galope sans contrôle ». Les États-Unis avaient mis en garde contre l'utilisation de ces systèmes pour la censure ou la répression des populations. Le Conseil de sécurité a tenu cette première discussion sur les dangers de l'IA en 2023. Lors de cette session, la Chine a insisté pour que l'IA ne se transforme pas en un cheval galopant de façon incontrôlée. Les États-Unis ont de leur côté alerté sur les risques d'utilisation de ces technologies à des fins de censure ou de répression des populations.
Plusieurs dirigeants du secteur ont récemment demandé un ralentissement coordonné du développement de l'IA, estimant que la technologie pourrait bientôt s'améliorer de manière autonome et échapper au contrôle humain. Ces déclarations ont renforcé l'attention des instances onusiennes sur le sujet. Ces appels à une pause coordonnée sont survenus quelques semaines avant la prochaine réunion du Conseil, accentuant la nécessité d'une discussion internationale sur les risques potentiels d'une IA qui pourrait s'auto-améliorer et échapper à la maîtrise humaine. La réunion de mercredi s'inscrit donc dans la continuité de ces préoccupations exprimées dès 2023 et amplifiées par les récentes mises en garde du secteur.
Quelles positions Sam Altman a-t-il exprimées par le passé sur les risques de l'IA ?
Sam Altman avait déjà formulé des mises en garde avant l'accélération actuelle des capacités de l'intelligence artificielle. Dans un essai publié en 2015 et intitulé « Machine Intelligence, part 1 », il écrivait que le développement d'une intelligence machine surhumaine constituait probablement la plus grande menace pour la survie de l'humanité. Cette position ancienne contraste avec le rythme rapide d'innovation observé chez OpenAI ces dernières années et illustre la tension permanente entre progrès technologique et préoccupations de sécurité. Altman avait exprimé ces réserves bien avant la phase actuelle de croissance rapide de l'IA. Son texte de 2015 mettait déjà en avant le risque majeur que représenterait une intelligence machine dépassant les capacités humaines pour la continuité de l'existence de l'humanité.
Quelles attentes entourent la réunion du Conseil de sécurité ?
Les membres du Conseil espèrent obtenir des éclaircissements sur les mesures concrètes que les entreprises leaders peuvent mettre en œuvre. Ils souhaitent également explorer les voies d'une coopération internationale pour encadrer les usages militaires ou stratégiques de l'IA. La séance ouverte permettra à d'autres acteurs de s'exprimer. Elle pourrait déboucher sur des recommandations ou des résolutions appelant à des cadres communs, même si le Conseil de sécurité n'a pas de mandat direct pour réglementer la technologie civile.
Quelles sont les limites actuelles de la gouvernance internationale de l'IA ?
Aucune institution internationale ne dispose aujourd'hui d'un pouvoir contraignant sur le développement de l'intelligence artificielle. Les discussions au sein des Nations unies restent principalement consultatives et visent à établir des principes partagés plutôt que des obligations juridiques. Les appels à des normes communes se heurtent à des divergences d'intérêts entre États et entreprises. La réunion du Conseil de sécurité constitue une étape symbolique mais ne remplace pas les négociations bilatérales ou les initiatives sectorielles déjà en cours.
Foire aux questions
Quand Sam Altman s'exprimera-t-il devant le Conseil de sécurité ?
La séance est programmée pour le mercredi suivant la publication de l'annonce, dans le cadre de la semaine de l'Assemblée générale des Nations unies à New York.
Quel est le sujet principal de la réunion ?
Les membres du Conseil discuteront des liens entre intelligence artificielle et sécurité internationale, en particulier les risques de perte de contrôle et les usages potentiellement déstabilisateurs.
Quelles entreprises ou pays ont déjà alerté sur les dangers de l'IA ?
Plusieurs dirigeants du secteur ont publiquement demandé un ralentissement coordonné du développement. La Chine et les États-Unis ont exprimé des réserves lors de la première réunion du Conseil de sécurité sur le sujet en 2023.
Sam Altman a-t-il déjà écrit sur les risques existentiels de l'IA ?
Oui. Dans un essai de 2015, il identifiait le développement d'une intelligence machine supérieure à l'humaine comme la plus grande menace potentielle pour l'humanité.
Le Conseil de sécurité peut-il imposer des règles sur l'IA ?
Le Conseil ne dispose pas de mandat direct pour réglementer la technologie civile. Ses discussions visent plutôt à formuler des recommandations et à encourager la coopération internationale.