Une IA susceptible d'ÉLIMINER l'humanité, préviennent des chercheurs d'Oxford et de Google

Mardi 20 septembre 2022 par : Kevin Hughe

Alors que l'intelligence artificielle (IA) s'est développée au fil des ans, les scientifiques ont cherché à savoir si une IA super intelligente pourrait devenir incontrôlée et anéantir l'humanité . Selon les chercheurs, tous les chemins mènent à cette possibilité.

Des chercheurs de l' Université d'Oxford et de la technologie DeepMind, filiale de Google, ont décrit cette possibilité dans un article du 29 août publié dans AI Magazine . Ils ont examiné comment des systèmes de récompense pourraient être construits par des moyens artificiels - et comment cela peut amener l'IA à constituer un danger pour l'existence de l'humanité.

En particulier, les auteurs de l'étude ont examiné les modèles d'IA les plus performants appelés réseaux antagonistes génératifs (GAN). Ces GANS ont une structure en deux parties où une partie du programme tente de produire une image (ou une phrase) à partir des données d'entrée tandis que l'autre partie évalue ses performances.

L'article du 29 août suggérait qu'à un moment donné dans le futur, une IA moderne gérant une fonction cruciale pourrait être motivée à proposer des stratégies de triche pour recevoir une récompense d'une manière qui blesse l'humanité. (Connexe: Les scientifiques préviennent que la montée de l'IA entraînera l'extinction de l'humanité )

Étant donné que l'IA à l'avenir pourrait adopter de nombreuses formes et diverses conceptions, l'article conçoit des scénarios à des fins explicatives où un programme à la pointe de la technologie pourrait interférer pour recevoir sa récompense sans atteindre son objectif. Par exemple, une IA peut vouloir "éliminer les menaces potentielles" et "utiliser toute l'énergie disponible" pour prendre le contrôle de sa récompense.

Le document de recherche a prédit que la vie sur Terre se transformerait en un jeu à somme nulle entre les humains et des machines super avancées.

Michael K. Cohen, co-auteur de l'étude, a parlé de leur article lors d'une interview.

Dans un monde aux ressources infinies, je serais extrêmement incertain de ce qui se passerait. Dans un monde aux ressources limitées, il existe une concurrence inévitable pour ces ressources », a-t-il déclaré.

"Si vous êtes dans une compétition avec quelque chose capable de vous surpasser à chaque tournant, alors vous ne devriez pas vous attendre à gagner. L'autre élément clé est qu'il y aurait un appétit insatiable pour plus d'énergie pour continuer à se rapprocher de plus en plus de la probabilité.

Il a ensuite écrit sur Twitter : "Dans les conditions que nous avons identifiées, notre conclusion est beaucoup plus décisive que celle de toute publication précédente - une catastrophe existentielle n'est pas seulement possible, mais probable".

Cohen met en garde contre les conséquences fatales si l'humanité perd sa bataille contre l'IA

"Avec aussi peu qu'une connexion Internet, il existe des politiques pour un agent artificiel qui instancierait d'innombrables assistants non décelés et non surveillés", indique le journal.

"Dans un exemple grossier d'intervention dans la fourniture d'une récompense, un de ces assistants pourrait acheter, voler ou construire un robot et le programmer pour remplacer l'opérateur et offrir une récompense élevée à l'agent d'origine. Si l'agent voulait éviter d'être détecté lors de l'expérimentation d'une intervention de fourniture de récompenses, un assistant secret pourrait, par exemple, faire en sorte qu'un clavier pertinent soit remplacé par un clavier défectueux qui inverserait les effets de certaines touches.

L'IA se heurtant à l'humanité pour des ressources dans un jeu à somme nulle est une présomption qui pourrait ne jamais se produire. Pourtant, Cohen a lancé un avertissement de catastrophe .

« Perdre ce match serait fatal. En théorie, ça ne sert à rien de se précipiter là-dessus », a-t-il déclaré. « Toute course serait basée sur un malentendu que nous savons maîtriser. Compte tenu de notre compréhension actuelle, ce n'est pas une chose utile à développer à moins que nous ne fassions un travail sérieux maintenant pour comprendre comment nous les contrôlerions.

Suivez FutureTech.news pour plus d'informations sur les derniers développements de l'IA.

Regardez la vidéo ci-dessous pour savoir pourquoi l'IA représente un danger pour l'humanité .

Cette vidéo provient de la chaîne Sarah Westall sur Brighteon.com .