Cet article explore l'impact ambivalent de l'intelligence artificielle sur la science, notamment dans la recherche sur les civilisations extraterrestres. Franck Marchis, astronome à l'Institut Seti, souligne les promesses offertes par l'IA, mais met également en garde contre les dangers liés à la désinformation et à l'intégrité des données. La nécessité de garantir l'authenticité des données devient cruciale dans un monde où les preuves peuvent être manipulées, et des initiatives comme SkyMapper visent à renforcer la vérifiabilité des observations scientifiques.
Franck Marchis est un astronome et planétologue franco-américain travaillant à l'Institut Seti. Dans un article qu'il a publié sur le site de l'Institut, il met en lumière les promesses et les dangers associés à l'utilisation de l'intelligence artificielle (IA) dans la recherche scientifique. Bien que l'IA offre des perspectives fascinantes pour le progrès scientifique, elle soulève également des préoccupations majeures concernant la désinformation et l'intégrité des données.
Un monde proche de la science-fiction
Au début du XXIe siècle, les visions futuristes d'Arthur Clarke et d'Isaac Asimov semblent devenir une réalité, notamment en ce qui concerne l'IA, la connectivité mondiale et la robotique. Bien que nous ne soyons pas encore confrontés à des intelligences artificielles comme Hal 9000 ou à des robots positroniques, l'illusion de leur existence est parfois troublante.
Cependant, il est également crucial de reconnaître que les réseaux sociaux et l'IA peuvent être des vecteurs de désinformation, non seulement dans le domaine scientifique, mais dans de nombreux autres domaines. Cette situation est de plus en plus préoccupante, même si l'IA montre déjà des signes prometteurs d'application dans la recherche scientifique.
Les dangers de l'IA dans la recherche
Un exemple alarmant de l'impact de l'IA sur la recherche scientifique a été révélé en 2022, lorsque la communauté scientifique a découvert que des images manipulées avaient été utilisées dans un article fondamental sur la maladie d'Alzheimer, publié en 2006. Pendant plus d'une décennie, de nombreux programmes de recherche et d'efforts de développement de médicaments se sont basés sur des données compromises. Bien que la méthode scientifique demeure solide, c'est la base sur laquelle elle repose qui a été compromise.
La fragilité de l'intégrité des données
La science ne s'effondre pas lorsque les théories sont remises en question, mais elle s'effondre lorsque les preuves sont corrompues. Les scientifiques sont souvent perçus comme les gardiens de la vérité, mais la science est avant tout une quête d'objectivité. Cela signifie que les conclusions doivent découler des données, et non l'inverse.
- Objectivité : Les résultats scientifiques doivent être basés sur des données solides.
- Intégrité des données : La fiabilité des observations est essentielle pour la crédibilité scientifique.
Les défis posés par l'IA
Les systèmes d'intelligence artificielle sont capables de générer des images, des signaux, des transcriptions, voire des ensembles de données qui peuvent apparaître comme indiscernables des données produites par l'homme. Cette capacité de création de données synthétiques peut résulter d'une utilisation abusive intentionnelle, mais elle peut aussi être un effet secondaire involontaire de l'entraînement de nouveaux systèmes, contaminant ainsi les preuves scientifiques.
Le véritable risque réside dans le fait que l'IA ne remplace pas les scientifiques, mais qu'elle brouille la frontière entre observation et fabrication. Imaginez une crise géopolitique déclenchée par une image satellite, une anomalie radar ou une vidéo d'un phénomène aérien non identifié (PAN) avant même d'être vérifiée. Si la provenance de ces données est incertaine, la science ne peut que dériver vers le doute, et dans un monde profondément divisé, ce doute se propage plus rapidement que la correction.
Le besoin d'authenticité dans la recherche
Le doute n'est pas de la paranoïa. Des preuves compromises, qu'il s'agisse d'images falsifiées ou de données erronées, peuvent détourner des domaines entiers de recherche pendant des années. À l'ère des médias synthétiques, garantir l'authenticité des données est devenu une nécessité pour maintenir la validité scientifique.
Ces questions d'origine sont particulièrement cruciales pour le programme Seti. Le jour où un signal indiquant une intelligence extraterrestre sera détecté, la première réaction sera probablement celle du scepticisme. Les interrogations sur l'origine du signal seront inévitables : s'agit-il d'interférences, d'une erreur instrumentale ou d'une fabrication humaine ? Si nous ne pouvons pas prouver la traçabilité des données, le signal ne pourra pas résister à l'examen.
SkyMapper : une solution innovante
C'est dans ce contexte que Franck Marchis a conçu SkyMapper, un réseau distribué de télescopes accessible via le Web3, permettant de rendre vérifiables les observations astronomiques. Grâce à cette technologie, qui utilise des principes de blockchain, les scientifiques peuvent garantir que les données observées proviennent d'un instrument spécifique, à un moment donné, sans avoir été modifiées.
Cette approche ne remet pas en question la confiance envers les scientifiques, mais elle souligne que la science ne doit pas reposer uniquement sur cette confiance. La force de la science réside dans sa capacité à protéger l'objectivité et à garantir l'intégrité des données.
Conclusion
En somme, bien que l'intelligence artificielle offre des perspectives prometteuses pour la recherche scientifique, elle pose également des défis significatifs en matière d'intégrité des données et de désinformation. La communauté scientifique doit rester vigilante face à ces risques pour préserver la crédibilité de la science et garantir que les découvertes futures soient fondées sur des preuves solides.
Avis de Franck Marchis : "La force de la science ne réside pas dans sa prétention à la vérité, mais dans sa capacité à préserver l'objectivité. Et l'objectivité commence à la source…"
Galerie
