Yoshua Bengio lance une organisation visant à concevoir des systèmes d'IA sécuritaires
- UdeMNouvelles
Le 3 juin 2025
LoiZéro rassemble une équipe de chercheurs et chercheuses pour mettre au point la prochaine génération de systèmes d’IA dans un environnement où la sécurité prime sur les impératifs commerciaux.
Crédit : Getty
Yoshua Bengio crée LoiZéro, un organisme sans but lucratif, pour concevoir des systèmes d’IA où la sécurité prime sur les intérêts commerciaux.
Yoshua Bengio, fondateur de Mila – l’Institut québécois d’intelligence artificielle – et professeur au Département d'informatique et de recherche opérationnelle de l'Université de Montréal, annonce la création de LoiZéro, une organisation à but non lucratif vouée à faire progresser la recherche et à élaborer des solutions techniques permettant de concevoir des systèmes d'intelligence artificielle (IA) sécuritaires.
Face à l’émergence de modèles avancés d’IA adoptant des comportements préoccupants – tels que la tromperie, l’autopréservation ou le désalignement par rapport aux objectifs –, LoiZéro rassemble une équipe de chercheurs et chercheuses pour mettre au point la prochaine génération de systèmes d’IA dans un environnement où la sécurité prime sur les impératifs commerciaux.
Le travail de cette nouvelle organisation contribuera à maximiser le potentiel transformateur de l’intelligence artificielle tout en réduisant de nombreux risques associés aux systèmes actuels, notamment les biais algorithmiques, les usages malveillants et la perte de contrôle humain.
La structure à but non lucratif a été préconisée afin de pouvoir opérer à l’abri des pressions du marché et des influences politiques susceptibles de compromettre la sécurité de l’IA. L’organisation met actuellement en place une équipe de direction chevronnée pour porter sa mission ambitieuse.
«LoiZéro est le résultat de la nouvelle direction scientifique que j’ai prise en 2023, après avoir constaté les progrès rapides réalisés par les laboratoires privés en intelligence artificielle générale et au-delà, ainsi que leurs conséquences potentiellement catastrophiques pour l’humanité», explique Yoshua Bengio, président et directeur scientifique de LoiZéro. «Les systèmes actuels montrent déjà des signes d’autopréservation et de comportements trompeurs; LoiZéro est la réponse constructive de mon équipe à ces préoccupations. Il s'agit d'une approche de l'IA qui est non seulement puissante, mais aussi essentiellement sécuritaire. Chez LoiZéro, nous croyons que le fondement même de tout système d'IA de pointe devrait reposer sur un engagement essentiel: celui de préserver la joie et les aspirations humaines», conclut le chercheur en intelligence artificielle le plus cité au monde et lauréat du prix A. M. Turing.
IA-chercheur: un nouveau modèle pour une IA plus sécuritaire
LoiZéro réunit une équipe technique composée de plus de 15 chercheurs et chercheuses qui travaillent sur une nouvelle approche appelée IA-chercheur ou Scientist AI en anglais. Il s’agit d’une solution pratique, efficace et plus sécuritaire que les systèmes d’IA agentiques, c'est-à-dire qui agissent de manière autonome. Ces IA-chercheurs ne sont pas agentiques et apprennent avant tout à comprendre le monde plutôt qu’à agir dans celui-ci, ce qui permet d’obtenir des réponses véridiques à des questions sur la base d’un raisonnement transparent et externalisé. De tels systèmes d’IA pourraient être utilisés pour superviser les systèmes d’IA agentiques, accélérer les découvertes scientifiques et faire progresser la compréhension des risques de l’IA et des moyens de les éviter.
Plusieurs organisations et individus de renom ont fait des dons au projet lors de sa phase d’incubation à Mila, dont le Future of Life Institute, Jaan Tallinn, Open Philanthropy, Schmidt Sciences et la Silicon Valley Community Foundation.
Source: LoiZéro.
