Risques et sécurité · Champ de recherche
Risque existentiel lié à l’IA
Catalogué le:
De quoi parle-t-on ?
Étude et débat de scénarios où l’IA contribuerait à l’extinction humaine ou à une perte permanente et majeure de notre potentiel futur. Il ne s’agit pas d’affirmer qu’un chatbot actuel est secrètement conscient. Mécanismes, probabilités et réponses sont discutés.
Le meilleur argument
Une issue incertaine et peu probable peut mériter une attention importante si la perte possible est immense. Examiner les mécanismes avant leur réalisation évite d’attendre une catastrophe démonstrative.
Là où ça se complique
L’ampleur des enjeux ne valide ni une probabilité ni une politique. Il faut des chaînes causales précises et examinables. Les catastrophes futures ne doivent pas effacer les dommages présents.
Sources et lectures
Les sources étayent le contexte factuel. Nous assumons les plaisanteries.