Artigos

17 DE MAI DE 2018

A fim de preparar o impacto da IA, precisamos nos preparar para o pior

A visão de que as máquinas dirigidas por IA vão superar a humanidade, dominar o mundo e matar todos nós - um elemento básico da ficção científica distópica - é fácil de descartar, uma vez que os humanos permanecem firmemente no controle. Ma

A visão de que as máquinas dirigidas por IA vão superar a humanidade, dominar o mundo e matar todos nós - um elemento básico da ficção científica distópica - é fácil de descartar, uma vez que os humanos permanecem firmemente no controle. Mas muitos especialistas em IA levam a sério a perspectiva apocalíptica, e eles estão certos em fazê-lo.

Avanços recentes na inteligência artificial foram nada menos que dramáticos. A IA está transformando quase todos os setores da sociedade, desde o transporte até a medicina e a defesa. Portanto, vale a pena considerar o que acontecerá quando se tornar ainda mais avançado do que já é.

A IA afeta uma grande proporção do PIB global.

A visão apocalíptica é que as máquinas baseadas na inteligência artificial vão superar a humanidade, dominar o mundo e matar a todos nós. Este cenário surge frequentemente na ficção científica, e é fácil de descartar, dado que os humanos permanecem firmemente no controle. Mas muitos especialistas em IA levam a sério a perspectiva apocalíptica, e eles estão certos em fazê-lo. O resto da sociedade também deveria.

Para entender o que está em jogo, considere a distinção entre “AI estreito” e “inteligência artificial geral” (AGI). AI estreito pode operar apenas em um ou alguns domínios por vez, de modo que, embora possa superar os humanos em tarefas selecionadas, ele permanece sob controle humano.

O AGI, por outro lado, pode raciocinar através de uma ampla gama de domínios e, assim, pode replicar muitas habilidades intelectuais humanas, mantendo todas as vantagens dos computadores, como a lembrança perfeita da memória.Executar em hardware de computador sofisticado, AGI poderia superar a cognição humana. Na verdade, é difícil conceber um limite superior para o quanto a AGI avançada poderia se tornar.

Tal como está, a maior parte da IA é estreita. De fato, mesmo os sistemas atuais mais avançados têm apenas quantidades limitadas de generalidade. Por exemplo, enquanto o sistema AlphaZero do Google DeepMind era capaz de dominar o Go, o xadrez e o shogi - tornando-o mais genérico do que a maioria dos outros sistemas de inteligência artificial, que só pode ser aplicado a uma única atividade específica - ele ainda demonstrava capacidade dentro dos limites limitados de certos jogos de tabuleiro altamente estruturados.

Muitas pessoas com conhecimento desconsideram a perspectiva da AGI avançada. Alguns, como Selmer Bringsjord, do Rensselaer Polytechnic Institute, e Drew McDermott, da Universidade de Yale, argumentam que é impossível para a IA superar a humanidade. Outros, como Margaret A. Boden, da Universidade de Sussex, e Oren Etzioni, do Instituto Allen de Inteligência Artificial, argumentam que a IA em nível humano pode ser possível em um futuro distante, mas que é muito cedo para começar a se preocupar com isso. agora.

Esses céticos não são figuras marginais, como os excêntricos que tentam lançar dúvidas sobre a ciência da mudança climática. Eles são acadêmicos ilustres em ciência da computação e áreas afins, e suas opiniões devem ser levadas a sério.

Você leu?

• Temos que aprender a confiar em IA. Veja como
• 8 maneiras que a AI pode ajudar a salvar o planeta
• Inteligência artificial poderia ser nosso salvador, de acordo com o CEO do Google

Outros estudiosos ilustres - incluindo David J. Chalmers, da Universidade de Nova York, Allan Dafoe , da Universidade Yale, e Stuart Russell, da Universidade da Califórnia, Berkeley, Nick Bostrom, da Universidade de Oxford, e Roman Yampolskiy, da Universidade de Louisville - se preocupam que a AGI representam uma ameaça séria ou até existencial para a humanidade. Com os especialistas fazendo fila nos dois lados do debate, o resto de nós deve manter a mente aberta.

Além disso, a AGI é o foco de pesquisa e desenvolvimento significativos. Eu terminei recentemente uma pesquisa de projetos de I & D da AGI, identificando 45 em 30 países em seis continentes. Muitas iniciativas ativas são baseadas em grandes corporações, como Baidu, Facebook, Google, Microsoft e Tencent, e em universidades de ponta, como Carnegie Mellon, Harvard e Stanford, bem como na Academia Chinesa de Ciências. Seria insensato simplesmente supor que nenhum desses projetos será bem-sucedido.

Outra maneira de pensar sobre a potencial ameaça da AGI é compará-la com outros riscos catastróficos. Na década de 1990, o Congresso dos EUA achou por bem que a NASA rastreasse grandes asteróides que poderiam colidir com a Terra, embora as chances de isso acontecer sejam em torno de uma em 5.000 por século . Com a AGI, as probabilidades de uma catástrofe no próximo século poderiam chegar a uma em cem, ou mesmo uma em dez, a julgar pelo ritmo da pesquisa e desenvolvimento e pela força da preocupação com especialistas.

A questão, então, é o que fazer sobre isso. Para começar, precisamos garantir que a P & D seja conduzida de maneira responsável, segura e ética. Isso exigirá um diálogo mais profundo entre os que trabalham no campo da IA e os formuladores de políticas, os cientistas sociais e os cidadãos interessados.Aqueles em campo conhecem a tecnologia e serão os únicos a projetá-la de acordo com os padrões acordados; mas eles não devem decidir sozinhos quais serão esses padrões. Muitas das pessoas que desenvolvem aplicativos de inteligência artificial não estão acostumadas a pensar sobre as implicações sociais de seu trabalho. Para que isso mude, eles devem estar expostos a perspectivas externas.

Os formuladores de políticas também terão que lidar com as dimensões internacionais da AGI. Atualmente, a maior parte da P & D da AGI é realizada nos Estados Unidos, Europa e China, mas grande parte do código é de código aberto, o que significa que o trabalho pode ser feito em qualquer lugar. Assim, o estabelecimento de padrões e regras éticas é, em última instância, um trabalho para toda a comunidade internacional, embora os centros de P & D devam assumir a liderança.

Olhando para o futuro, alguns esforços para enfrentar os riscos apresentados pela AGI podem pegar carona em iniciativas políticas já implementadas para a redução da IA, como o novo Caucus AI bipartidário lançado por John Delaney, um congressista democrata de Maryland. Existem muitas oportunidades de sinergia entre aqueles que trabalham com riscos de IA a curto prazo e aqueles que pensam a longo prazo.

Mas independentemente de se a AI e a AGI restritas são consideradas em conjunto ou separadamente, o que mais importa é que tomemos medidas construtivas agora para minimizar o risco de uma catástrofe no futuro. Esta não é uma tarefa que podemos esperar concluir no último minuto.

Escrito por Seth Baum , diretor executivo

Este artigo é publicado em colaboração com o Project Syndicate. As opiniões expressas neste artigo são de responsabilidade exclusiva do autor e não do Fórum Econômico Mundial.

Link do artigo original: Clique na imagem.

Fonte: LinkedIn