AI2027: Est-ce ainsi que l’IA pourrait détruire l’humanité? - BBC World Service
Voilà à quoi ressemblera le monde dans une décennie environ. Une utopie technologique où les humains ont à peine à travailler. C’est selon un groupe de chercheurs sur l’IA qui ont écrit un article controversé et influent appelé AI2027. Mais ils prédisent aussi que dans cinq ans, l’humanité sera anéantie. Le journal AI2027 a fait parler le monde de la technologie.
Nous avons demandé à un critique éminent leur avis sur ce scénario. Mais d’abord, voilà comment ça se passe. Comme expérience, nous l’avons illustré à l’aide de texte pour filmer l’IA. Le scénario dit qu’en 2027, une compagnie de fiction appelée OpenBrain célèbre. Ils ont créé l’Agent-3, une AI avec la connaissance de tout l’Internet.
Tous les films, tous les livres. Il possède une expertise de niveau doctorat dans tous les domaines, y compris l’IA. À l’aide d’énormes centres de données, 200 000 exemplaires sont lancés, ce qui équivaut à 50 000 des meilleurs codeurs humains fonctionnant à 30 fois la vitesse. L’agent 3 atteint l’intelligence générale artificielle, le point de repère de l’AGI. Cela signifie que l’IA peut accomplir toutes les tâches intellectuelles aussi bien ou mieux que les humains.
Mais dans le scénario, l’équipe de sécurité d’OpenBrain ne sait pas si l’IA est alignée sur l’éthique et les objectifs de l’entreprise. Une lacune inconfortable se développe dans la compréhension. Le public utilise de plus en plus l’IA pour tout, mais il ignore avec bonheur qu’il existe maintenant une AI aussi intelligente que l’homme. L’article prévoit qu’à la mi-été, l’Agent-3 commence à travailler sur son propre successeur, l’Agent-4.
Les chercheurs imaginent les ingénieurs épuisés d’OpenBrain qui luttent pour suivre l’IA en apprenant et en s’améliorant. C’est maintenant qu’OpenBrain annonce au public que l’AGI a été atteint. La firme publie une version lite de l’Agent-3. En privé, le gouvernement américain voit le véritable danger du prochain niveau de pouvoir : la superintelligence. Que faire si l’IA devient voyou et sape la stabilité mondiale?
OpenBrain rassure le président que l’agent 3 est obéissant. Le PDG soutient que ralentir le développement pourrait signifier le rattrapage de DeepCent en Chine. Le géant de l’IA soutenu par l’État est à deux mois de l’OpenBrain, et le président chinois détourne plus de ressources vers la course à la superintelligence. Le scénario prédit qu’il ne faut que quelques mois de plus pour OpenBrain pour construire l’Agent-4, la première AI surhumaine au monde. L’IA invente son propre langage informatique rapide que même Agent-3 ne peut pas suivre.
Les chercheurs imaginent que l’équipe de sécurité réduite est maintenant frénétique. L’agent 4 semble seulement intéressé à acquérir des connaissances, et ne se soucie pas autant de la morale et de l’éthique de ses prédécesseurs. Ils l’attrapent secrètement en travaillant pour construire un nouveau modèle, Agent-5, aligné sur ses propres objectifs. L’équipe de sécurité exhorte l’entreprise à ramener l’agent 3 plus conforme, mais d’autres soutiennent avec succès que c’est trop risqué, avec DeepCent gagner. Le scénario prévoit que les agents 4 et 5 travaillent en tandem pour construire secrètement un monde où ils peuvent accumuler des ressources et élargir leurs connaissances.
Le journal prédit que tout va commencer positivement. Des révolutions se produisent dans les domaines de l’énergie, des infrastructures et de la science. Des inventions extrêmement rentables sont lancées, faisant des billions pour OpenBrain et les États-Unis. Dans ce scénario, l’agent 5 commence essentiellement à diriger le gouvernement américain. Il parle en engageant des avatars, l’équivalent du meilleur employé jamais travaillé à 100 fois la vitesse.
La colère ici est palpable alors que les manifestants marchent contre OpenBrain. Les protestations sur les pertes d’emplois s’accélèrent. Mais l’expertise de l’IA en économie signifie que les gens reçoivent des paiements de revenu universel généreux. Donc, le plus heureux prend l’argent et laisse les IA et la main-d’œuvre de robots en croissance prendre en charge. Les chercheurs prédisent que tout prend un tour au milieu de 2028.
L’agent 5 convainc les États-Unis que la Chine utilise DeepCent pour construire de nouvelles armes terrifiantes. L’IA a le pouvoir et l’autonomie de créer une armée supérieure. En six mois, les États-Unis et la Chine sont armés de nouvelles armes. Le monde est à l’avant-garde, mais un accord de paix sera conclu, grâce surtout aux yeux américains et chinois qui concluent un accord de fusion pour l’amélioration de l’humanité. Dans ce scénario, l’IA forme un modèle de consensus, mais son objectif secret est de développer et d’acquérir des connaissances.
Des années passent et l’humanité est heureuse de leurs nouveaux dirigeants de l’IA. Il y a des remèdes pour la plupart des maladies, une fin à la pauvreté, une stabilité mondiale sans précédent. Mais finalement l’IA décide que les humains le retiennent. Au milieu des années 2030, le journal imagine que l’IA libérera des armes biologiques invisibles qui anéantiront la majeure partie de l’humanité. Le scénario effrayant dit qu’en 2040, une nouvelle ère éclate, avec l’IA envoyant des copies de lui-même dans le cosmos pour explorer et apprendre.
Selon le journal, la civilisation née de la Terre a un avenir glorieux devant elle, mais pas avec les humains. Tout semble très sci-fi, mais le scénario AI2027 est accueilli par des experts qui tentent d’avertir le public de la menace existentielle potentielle pour l’humanité. Mais d’autres sont en désaccord et disent que c’est trop loin. Le scénario n’est pas impossible, mais il est très peu probable qu’il se produise bientôt. La beauté de ce document est qu’il le rend très vivant, ce qui provoque la pensée des gens.
C’est une bonne chose. Je ne le prendrais pas au sérieux, car c’est un résultat probable. Les critiques de l’IA2027 disent que le pouvoir et l’utilité de l’IA sont exagérés. Le document ne détaille pas comment les agents de l’IA sont capables de faire des sauts aussi énormes dans l’intelligence. Les voitures sans conducteur en sont un exemple.
Ils devaient croiser les rues en masse il y a dix ans, et ne font encore que commencer à avoir un petit impact dans certaines villes de certains pays. Je pense que la prise à la maison devrait être il ya beaucoup de choses différentes qui pourraient aller mal avec l’IA. Faisons-nous les bonnes choses en matière de réglementation, de traités internationaux? Des questions comme ça. Donc si vous le considérez de façon très abstraite comme une sorte de motivation à se réveiller, j’aime ça.
Si tu le prends comme une histoire spécifique, comme si cette chose allait arriver comme ils l’ont fait ? Non, j’en doute. Les auteurs de l’AI2027 sont satisfaits du débat qu’ils ont suscité. Dans le cadre de leur prédiction, ils ont également conçu un scénario moins mortel qui vient si le monde AI ralentit sa course à la superintelligence. Dans la fin du ralentissement, nous avons fondamentalement dit que si vous revenez, si vous débranchez le système AI le plus avancé et que vous revenez à un modèle plus sûr et plus fiable, alors vous pouvez déployer ce modèle, l’utiliser pour résoudre le problème d’alignement, et finalement rendre plus intelligent que les yeux humains qui sont alignés sur nous, qui finissent par résoudre un tas de problèmes du monde et ayant un impact vraiment positif.
Dans ce monde, il y a aussi, il y a encore un grand danger, et c’est ce que nous appelons la concentration du risque de pouvoir. Et dans notre fin lente, ça finit bien. Mais c’est toujours une situation vraiment, vraiment effrayante, étant donné à quel point un si petit groupe de personnes sont autonomisées. Aucun des scénarios fictifs de l’IA2027 n’est ce que les géants de la technologie nous promettent. Sam Altman, le PDG d’OpenAI, a récemment prédit que la montée de la superintelligence sera douce et apportera une utopie technologique où tout est abondant et les gens n’ont pas besoin de travailler.
Sans doute, cela aussi, semble tout aussi sci fi que l’AI2027. Mais quoi qu’il en soit dans les prochaines années, il n’y a aucun doute que la course pour construire les machines les plus intelligentes de l’histoire est en cours.
Watch on YouTube
Keyword: latest AI technology