Les grands noms de l'informatique demandent un moratoire sur le développement de l'intelligence artificielle

Des experts en intelligence artificielle et des cadres supérieurs du secteur des technologies de l'information demandent une pause d'au moins six mois dans le développement de puissants systèmes d'intelligence artificielle, car ils sont potentiellement dangereux pour la société. Une lettre ouverte a été publiée à cet effet par le Future of Life Institute et signée par plus de 1 100 personnes, dont Ilon Musk, Steve Wozniak, Evan Sharp, Jaan Tallin et bien d'autres.

La lettre demande à tous les laboratoires de recherche et de développement en intelligence artificielle, ainsi qu'aux experts indépendants, de cesser immédiatement de former des systèmes d'IA plus puissants que le GPT-4 d'OpenAI pendant au moins six mois. Si un tel arrêt de travail ne peut être mis en œuvre dans les plus brefs délais, les agences gouvernementales doivent intervenir et imposer un moratoire.

Cela n'indique pas un arrêt du développement de l'intelligence artificielle en général, mais simplement un recul par rapport à une course dangereuse vers des modèles indéterminés dotés de capacités extraordinaires. Ils notent également que les laboratoires d'intelligence artificielle et les experts indépendants devraient profiter de cette pause pour élaborer et mettre en œuvre conjointement des protocoles de sécurité communs afin d'améliorer la conception et le développement de l'intelligence artificielle.

Les signataires affirment qu'au cours des derniers mois, les laboratoires d'intelligence artificielle ont perdu le contrôle du développement et du déploiement d'esprits numériques de plus en plus puissants que personne, pas même leurs créateurs, ne peut comprendre, prédire ou contrôler de manière fiable.

Principales thèses

Les auteurs de la lettre demandent : Devons-nous faire confiance aux machines pour remplir nos canaux d'information de propagande et de mensonges ? Devrions-nous automatiser tous les travaux, y compris ceux qui sont agréables ?

Les auteurs de la lettre recommandent la prudence dans l'automatisation du travail et l'utilisation de l'intelligence artificielle. La question est de savoir s'il faut automatiser tout le travail, y compris celui qui est agréable. En outre, les auteurs se demandent si nous devrions développer des esprits non humains qui pourraient éventuellement nous remplacer. Ils s'inquiètent également du risque de perdre le contrôle de notre civilisation si nous laissons l'intelligence artificielle devenir trop puissante. Selon eux, les systèmes d'intelligence artificielle puissants ne devraient être créés que lorsque nous sommes certains qu'ils ne présentent aucun risque et qu'ils ne peuvent faire que du bien.