Stephen Hawking met en garde face aux dangers de l’intelligence artificielle

Dans une tribune co-signée avec trois autres scientifiques, le physicien Stephen Hawking tire un signal d’alarme concernant l’intelligence artificielle, et conseille fortement de prendre son développement très au sérieux.

Souvent mise en avant dans les films de science-fiction — notamment Transcendence, qui sortira en juin dans les salles françaises — l’intelligence artificielle prend une place de plus en plus concrète dans le quotidien. Une situation qui doit être surveillée selon quatre scientifiques : le physicien Stephen Hawking, le professeur en sciences informatiques Stuart Russel et les professeurs du MIT Max Tegmark et Fran Wilczek. Dans une tribune publiée sur The Independent, ils s’inquiètent de savoir si « le développement de l’intelligence artificielle est réellement pris au sérieux. »

Citant l’ordinateur Watson d’IBM, les voitures intelligentes de Google ou encore les assistants vocaux comme Siri ou Cortana, les scientifiques estiment que « ces réalisations feront sans doute pâle figure par rapport à ce que les prochaines décennies apporteront. » Mais au-delà des bénéfices d’une telle évolution technologique, il ne faut pas sous-estimer les inconvénients : « Développer avec succès l’intelligence artificielle pourrait être le plus grand événement dans l’histoire de l’humanité. Malheureusement, ce pourrait aussi être le dernier » estime la tribune, qui part d’une éventualité qui n’est pas nouvelle, à savoir celle où l’IA se retournerait contre son créateur.

« On peut imaginer que cette technologie soit capable de déjouer les marchés financiers, de dépasser les scientifiques humains, de manipuler les dirigeants et développer des armes qu’on ne puisse pas comprendre. L’incidence à court terme de l’intelligence artificielle dépend de celui qui la contrôle, mais, à long terme, cela dépend de la possibilité concrète de la contrôler. »

Or, selon le quatuor de chercheurs, si le développement de l’intelligence artificielle est au cœur de multiples recherches, peu s’intéressent à la question de la maitrise d’une telle technologie. « Nous devrions tous nous demander ce que nous pouvons faire maintenant pour augmenter les bénéfices et esquiver les risques » estiment les 4 scientifiques, mais ce n’est concrètement pas le cas aujourd’hui.

Un constat inquiétant et concret, qui devrait pousser les chercheurs impliqués dans l’IA autant que le grand public à réfléchir à l’évolution d’une telle technologie. Si la fiction s’interroge depuis longtemps — Her est l’un des derniers films en date à ce sujet — il serait désormais grand temps de se poser le même genre de question dans la réalité.

Article19.ma/clubic.com