L'intelligence artificielle représente une menace existentielle pour l'humanité qui doit être traitée comme un risque sociétal au même titre que les pandémies et la guerre nucléaire. Cet avertissement a été émis par des leaders du secteur dans une lettre ouverte signée par plus de 350 dirigeants et diffusée par l'organisation à but non lucratif Center for AI Safety. Le document stipule que l'atténuation du risque d'extinction posé par l'intelligence artificielle doit devenir une priorité aux côtés d'autres dangers sociaux à grande échelle.
Le New York Times et d'autres médias internationaux rapportent que les signataires incluent Sam Altman, PDG d'OpenAI ; Demis Hassabis, responsable de Google DeepMind ; et Dario Amodei, dirigeant d'Anthropic. L'appel a également reçu le soutien de Geoffrey Hinton, largement reconnu comme l'un des pères de l'IA.
Parmi les signataires figurent plusieurs experts italiens, dont Roberto Battiston, physicien à l'Université de Trente, et Luca Simoncini, ancien professeur d'ingénierie de l'information à l'Université de Pise et ancien directeur de l'Institut des technologies de l'information au sein du Conseil national de la recherche. Battiston a précisé que la préoccupation ne porte pas sur une superintelligence surpassant l'humanité, mais plutôt sur les conséquences de la façon dont les humains s'adaptent à l'utilisation de ces algorithmes dans leur travail et leur vie sociale quotidienne.
Battiston a souligné les interférences potentielles avec les processus électoraux, la propagation de fausses nouvelles et la création de chaînes d'information servant des intérêts spécifiques de désinformation. Il a noté que la société doit se préparer à gérer ces situations, en pointant du doigt des problèmes passés tels que le scandale Cambridge Analytica et les tactiques de trolls russes sur le web comme signes avant-coureurs.
Luca Simoncini a observé que si l'utilisation intensive de l'IA entraîne une véritable révolution, elle pose simultanément de graves problèmes en raison de son impact omniprésent sur les aspects sociaux, économiques, financiers, politiques, éducatifs et éthiques. Il a cité des risques tels que la production de fausses nouvelles et le contrôle des véhicules autonomes. Tout en reconnaissant que personne ne peut s'opposer aux technologies émergentes utilisées à des fins bénéfiques en biomédecine ou en pharmacologie, Simoncini a noté que la déclaration du Center for AI Safety rappelle le manifeste de 1955 de Bertrand Russell et Albert Einstein dénonçant les risques des armes nucléaires.
Sources: ANSA Tecnologia. ANSA Tecnologia.