Manifestation Pause AI

Nous appelons le gouvernement à instaurer un Traité International pour arréter le développement d'IA avancées lors du prochain Sommet International sur l'IA à Séoul. En pratique, chaque pays signe un traité s'engageant à suspendre le développement de l'IA de pointe. Cet accord n'entrerait en vigueur qu'après que toutes les autres nations l'aient également signé. Le développement de l'IA ne reprendrait qu'une fois certains problèmes résolus : 1 - Nous ne comprenons pas le fonctionnement de l'IA. À l'heure actuelle, les IA sont des boîtes noires - nous savons comment les entraîner mais nous sommes incapables d'interpréter les algorithmes internes et les représentations des systèmes de pointe. 2 - Nous n'avons pas de garanties solides quant à notre capacité à contrôler l'IA. Il nous faut une science approfondie du contrôle de l'IA, pas un simple réglage approximatif. 3 - Nous n'avons pas de mécanismes de gouvernance pour nous assurer que l'IA sera déployée dans l'intérêt de tous. L'IA a le pouvoir de résoudre de nombreux problèmes et de soulager la souffrance. Mais elle pourrait aussi entraîner un chômage massif, propager de la désinformation, être utilisée dans des armes autonomes et concentrer le pouvoir entre les mains de quelques entreprises. Lisez notre proposition complète ici : https://pauseai.info/proposal