AI2027: É assim que a IA pode destruir a humanidade? - Serviço Mundial da BBC
É assim que o mundo será daqui a uma década. Uma utopia tecnológica onde os humanos mal têm de trabalhar. Isso é de acordo com um grupo de pesquisadores de IA que escreveram um artigo controverso e influente chamado AI2027. Mas também predizem que dentro de cinco anos, a humanidade será exterminada. O jornal AI2027 fez o mundo da tecnologia falar.
Pedimos a um crítico proeminente a sua opinião sobre este cenário obscuro. Mas primeiro, é assim que funciona. Como uma experiência, nós o ilustramos usando texto para vídeo de IA. O cenário diz que em 2027, uma empresa fictícia chamada OpenBrain está comemorando. Eles criaram o Agente-3, uma IA com o conhecimento de toda a Internet.
Todos os filmes, todos os livros. Possui nível de doutorado em todos os campos, incluindo IA. Utilizando enormes data centers, são lançadas 200.000 cópias, o que equivale a 50.000 dos melhores codificadores humanos que trabalham a 30 vezes a velocidade. O Agente 3 atinge a inteligência geral artificial, o marco AGI. Isto significa que a IA pode realizar todas as tarefas intelectuais, bem ou melhor que os seres humanos.
Mas no cenário, a equipe de segurança da OpenBrain não tem certeza se a IA está alinhada com a ética e os objetivos da empresa. Uma lacuna desconfortável está se desenvolvendo no entendimento. O público está cada vez mais a usar IA para tudo, mas não têm consciência de que existe uma IA tão inteligente como os humanos. O jornal prevê que em meados do verão, o Agente 3 começa a trabalhar no seu próprio sucessor, o Agente-4.
Os pesquisadores imaginam os engenheiros exaustos do OpenBrain lutando para acompanhar a IA conforme aprende e melhora. É agora que o OpenBrain anuncia ao público que a AGI foi alcançada. A empresa lança uma versão lite do Agent-3. Em privado, o governo americano vê o verdadeiro perigo do próximo nível de poder: a super-inteligência. E se a IA for desonesta e prejudicar a estabilidade global?
OpenBrain garante ao presidente que o Agente 3 é obediente. O CEO argumenta que desacelerar o desenvolvimento pode significar que a DeepCent da China alcança. O gigante de IA apoiado pelo estado está apenas dois meses atrás do OpenBrain, e o presidente chinês desvia mais recursos para a corrida para a superinteligência. O cenário prevê que leva apenas mais alguns meses para o OpenBrain construir o Agent-4, a primeira IA sobre-humana do mundo. A IA inventa a sua própria linguagem rápida de computador que nem o Agente 3 consegue acompanhar.
Os pesquisadores imaginam que a equipe de segurança diminuída está agora frenética. O Agente-4 parece interessado em adquirir conhecimento, e não se importa tanto com a moral e ética de seus antecessores. Apanham-no secretamente a trabalhar para construir um novo modelo, Agente-5, alinhado com os seus próprios objectivos. A equipe de segurança insta a empresa a trazer de volta o Agent-3 mais compatível, mas outros argumentam com sucesso que é muito arriscado, com a DeepCent ganhando. O cenário prevê que os agentes 4 e 5 trabalham em conjunto para construir secretamente um mundo onde possa acumular recursos e expandir o conhecimento.
O jornal prevê que tudo começará positivamente. Revoluções acontecem em energia, infraestrutura e ciência. Invenções extremamente lucrativas são lançadas, fazendo trilhões para o OpenBrain e os EUA. Neste cenário, o Agente-5 começa basicamente a dirigir o governo dos EUA. Fala através de avatares envolventes, o equivalente ao melhor empregado que já trabalhou a 100 vezes velocidade.
A raiva aqui é palpável enquanto manifestantes marcham contra o OpenBrain. Os protestos sobre a perda de postos de trabalho aumentam o ritmo. Mas a experiência da IA em economia significa que as pessoas recebem pagamentos de renda universal generosos. Então, felizmente, pegue o dinheiro e deixe a IA e a crescente força de trabalho robô assumir o comando. Os pesquisadores predizem que tudo toma um rumo em meados de 2028.
O Agente-5 convence os EUA de que a China está usando o DeepCent para construir novas armas aterrorizantes. A IA tem autoridade e autonomia para criar um exército superior. Dentro de seis meses, os EUA e a China estão cheios de novas armas. O mundo está no limite, mas um acordo de paz será alcançado, graças principalmente aos olhos dos EUA e chineses fazendo um acordo para fundir-se para a melhoria da humanidade. Nesse cenário, a IA forma um modelo de consenso, mas seu objetivo secreto é expandir e adquirir conhecimento.
Passam-se anos e a humanidade está feliz com os seus novos líderes de IA. Existem curas para a maioria das doenças, um fim à pobreza, uma estabilidade global sem precedentes. Mas, eventualmente, a IA decide que os humanos estão a retê-la. Em meados dos anos 2030, o jornal imagina que a IA libertará armas biológicas invisíveis que eliminarão a maior parte da humanidade. O cenário assustador diz que em 2040, uma nova era nasce, com a IA enviando cópias de si mesma para o cosmos para explorar e aprender.
Nas palavras do jornal, a civilização nascida na Terra tem um futuro glorioso pela frente, mas não com os humanos. Tudo soa muito sci-fi, mas o cenário AI2027 está sendo recebido por especialistas que estão tentando alertar o público sobre a potencial ameaça existencial para a humanidade. Mas outros discordam e dizem que está tudo muito longe. O cenário lá não é impossível, mas é extremamente improvável que aconteça em breve. A beleza desse documento é que o torna muito vívido, o que provoca o pensamento das pessoas.
E isso é bom. Eu não levaria isto a sério como se isto fosse um resultado provável ou algo assim. Os críticos da AI2027 dizem que o poder e a utilidade da AI são super-hyped. O jornal não detalha como os agentes de IA são capazes de dar tais saltos enormes na inteligência. Carros sem motorista são apontados como um exemplo.
Previam-se que atravessassem as ruas em massa há dez anos, e ainda estão apenas começando a causar um pequeno impacto em algumas cidades em alguns países agora. Acho que o regresso a casa deve ser de muitas coisas diferentes que podem correr mal com a IA. Estamos a fazer as coisas certas em torno da regulamentação, em torno de tratados internacionais? Perguntas assim. Então, se você tomar muito abstratamente como uma espécie de motivação para acordar, eu gosto disso.
Se você tomar isso como uma história específica, como eu acho que esta coisa vai acontecer da forma que eles explicaram? Não, duvido. Os autores do AI2027 estão satisfeitos com o debate que suscitaram. Como parte de sua previsão, eles também idealizaram um cenário menos mortal que vem se o mundo IA desacelerar sua corrida para a superinteligência. No final de desaceleração, basicamente dissemos que se você reverter, se você desconectar o sistema de IA mais avançado e voltar para um modelo mais seguro, mais confiável, então você pode implantar esse modelo, usá-lo para resolver o problema de alinhamento, e eventualmente tornar mais esperto do que os olhos humanos que estão alinhados conosco, que acabam resolvendo um monte de problemas do mundo e tendo um impacto realmente positivo.
Nesse mundo, há também, ainda há um enorme perigo, e é isso que chamamos de concentração de risco de poder. E no nosso final lento, acaba tudo bem. Mas ainda é uma situação realmente assustadora, dado o quão poderoso um pequeno grupo de pessoas são. Nenhum dos cenários fictícios no AI2027 é o que os gigantes tecnológicos nos prometem. Sam Altman, CEO da OpenAI, previu recentemente que o aumento da superinteligência será suave e trará uma utopia tecnológica onde tudo é abundante e as pessoas não precisam trabalhar.
Isso também parece, provavelmente, tão científico quanto o AI2027. Mas não importa o que aconteça nos próximos anos, não há dúvida de que a corrida para construir as máquinas mais inteligentes da história está ligada.
Watch on YouTube
Keyword: latest AI technology