Les dangers liés à l'IA sont de plusieurs sortes:

Les problèmes éthiques

- les IA s'entrainant sur des jeux de données biaisés risquent d'arriver à des conclusions biaisées

- les réseaux sociaux, en nous proposant en priorité un contenu susceptible de nous intéresser, nous enferment rapidement dans des "bulles de filtres" qui sont un défi pour notre esprit critique!

- les IA, et plus généralement les nouvelles technologies, pourraient remplacer à terme une partie du travail intellectuel des humains. Contrairement à la révolution industrielle qui a vu disparaître des métiers manuels remplacés par des métiers intellectuels, il n'est pas évident ici de savoir si ces métiers seront "remplaçables". Cela questionne la place du travail dans un monde assisté par des IAs.

Le risque existentiel

Le moins connu et le plus inquiétant des dangers liés aux IAs est existentiel (c'est-à-dire qu'il menace l'existence des humains!) et vient de la difficulté à programmer des IAs pour qu'elles aient des objectifs alignés avec ceux des humains. Malheureusement, pour des raisons économiques évidentes, on progresse plus vite sur les capacités des IA que sur la recherche garantissant leur sécurité.

Modifié le: jeudi 16 février 2023, 16:24