L’appel des experts de la tech à la mise en pause de l’IA

Les systèmes d'IA dotés d'une intelligence compétitive humaine peuvent présenter des risques profonds pour la société et l'humanité, comme le montrent de nombreuses recherches et reconnu par les principaux laboratoires d'IA. Comme indiqué dans les Principes d'IA d'Asilomar largement approuvés, l'IA avancée pourrait représenter un changement profond dans l'histoire de la vie sur Terre et devrait être planifiée et gérée avec un soin et des ressources proportionnés. Malheureusement, ce niveau de planification et de gestion ne se produit pas, même si ces derniers mois, les laboratoires d'IA se sont lancés dans une course incontrôlable pour développer et déployer des esprits numériques toujours plus puissants que personne - pas même leurs créateurs - ne peut comprendre, prédire ou contrôler de manière fiable. Les systèmes d'IA contemporains sont désormais compétitifs avec les humains pour des tâches générales et nous devons nous demander : devons-nous laisser les machines inonder nos canaux d'information de propagande et de mensonges ? Devons-nous automatiser tous les emplois, y compris ceux qui sont épanouissants ? Devons-nous développer des esprits non humains qui pourraient éventuellement nous surpasser, nous rendre obsolètes et nous remplacer ? Devons-nous risquer de perdre le contrôle de notre civilisation ?

De telles décisions ne doivent pas être déléguées à des dirigeants technologiques non élus. Les systèmes d'IA puissants ne devraient être développés que lorsque nous sommes convaincus que leurs effets seront positifs et que leurs risques seront gérables. Cette confiance doit être bien justifiée et augmenter avec l'ampleur des effets potentiels d'un système. La récente déclaration d'OpenAI concernant l'intelligence artificielle générale stipule qu'"à un certain moment, il peut être important d'obtenir un examen indépendant avant de commencer à former de futurs systèmes et pour les efforts les plus avancés de convenir de limiter le taux de croissance du calcul utilisé pour créer de nouveaux modèles". Nous sommes d'accord. Ce moment est maintenant. C'est pourquoi nous appelons tous les laboratoires d'IA à mettre immédiatement en pause, pour au moins 6 mois, la formation de systèmes d'IA plus puissants que GPT-4. Cette pause doit être publique et vérifiable, et inclure tous les acteurs clés. Si une telle pause ne peut être mise en place rapidement, les gouvernements devraient intervenir et instaurer un moratoire. Les laboratoires d'IA et les experts indépendants devraient profiter de cette pause pour élaborer et mettre en œuvre conjointement un ensemble de protocoles de sécurité partagés pour la conception et le développement d'IA avancée, qui doivent être rigoureusement audités et supervisés par des experts indépendants externes. Ces protocoles devraient garantir que les systèmes qui y adhèrent sont sûrs au-delà de tout doute raisonnable. Cela ne signifie pas une pause dans le développement de l'IA en général, mais simplement un recul face à la course dangereuse vers des modèles de boîte noire toujours plus imposants et imprévisibles, dotés de capacités émergentes.

La recherche et le développement en IA devraient être recentrés sur l'amélioration de la précision, de la sécurité, de l'interprétabilité, de la transparence, de la robustesse, de l'alignement, de la confiance et de la loyauté des systèmes puissants et à la pointe de la technologie d'aujourd'hui.

En parallèle, les développeurs d'IA doivent travailler avec les décideurs politiques pour accélérer considérablement le développement de systèmes de gouvernance solides en matière d'IA. Ceux-ci devraient inclure, au minimum : de nouvelles autorités réglementaires compétentes dédiées à l'IA ; la supervision et le suivi des systèmes d'IA hautement performants et des grandes capacités de calcul ; des systèmes de provenance et de marquage pour distinguer le réel du synthétique et suivre les fuites de modèles ; un écosystème solide d'audit et de certification ; la responsabilité en cas de préjudice causé par l'IA ; un financement public solide pour la recherche sur la sécurité technique de l'IA ; et des institutions bien dotées pour faire face aux perturbations économiques et politiques (en particulier pour la démocratie) que l'IA provoquera.

L'humanité peut profiter d'un avenir florissant avec l'IA. Ayant réussi à créer des systèmes d'IA puissants, nous pouvons maintenant profiter d'un "été de l'IA" dans lequel nous récoltons les récompenses, concevons ces systèmes pour le bénéfice évident de tous et donnons à la société une chance de s'adapter. La société a déjà mis en pause d'autres technologies ayant des effets potentiellement catastrophiques sur la société. Nous pouvons le faire ici aussi. Profitons d'un long été de l'IA, plutôt que de nous précipiter sans préparation vers un automne.