AI researchers put out videos saying superintelligence is ‘exactly as dangerous as it sounds’

Introduction
Geoffrey Irving, ancien ingénieur d’OpenAI et de Google DeepMind, estime que le risque d’extinction humaine lié à l’intelligence artificielle est comparable à un lancer de pièce.

Points clés
- Irving fait partie d’une série d’une douzaine d’interviews réunissant des chercheurs actuels ou anciens d’OpenAI, Google et Anthropic, qui débattent des dangers potentiels de l’IA.
- Selon lui, la probabilité d’une extinction humaine due à l’IA se situe autour de 50 %, soulignant l’urgence d’une gouvernance et d’une recherche responsables.
- Ces entretiens sont commandités par Palisade Research, une organisation à but non lucratif dédiée à l’étude des impacts sociétaux et existentiels de l’intelligence artificielle.