[RESENHA #684] A próxima onda: Inteligência artificial, poder e o maior dilema do século XXI, de Mustafa Suleyman e Michael Bhaskar

Arte gráfica / Editora Record / Todos os direitos reservados

APRESENTAÇÃO

Em breve o mundo estará cercado por inteligência artificial. As IAs organizarão rotinas, operarão negócios e ficarão responsáveis pelos principais serviços públicos. A humanidade passará a viver em um mundo de impressoras de DNA, computadores quânticos, patógenos artificialmente criados, armas autônomas, assistentes robôs e energia abundante.

Mas ninguém está preparado.

À medida que governos frágeis seguem no escuro em direção à catástrofe, o ser humano encara um dilema existencial: de um lado, males sem precedentes que podem emergir do surgimento incontrolável de novas tecnologias e possibilidades; de outro, a ameaça de uma supervigilância autoritária. Seria possível encontrar um meio-termo entre a catástrofe e a distopia?

Em A próxima onda, Mustafa Suleyman, cofundador da DeepMind, uma das principais empresas de inteligência artificial, explicíta o que as IAs representam para a próxima década, e como essas forças criarão imensa prosperidade, mas também podem colocar em risco os Estados nacionais, ou seja, a base da ordem global.

RESENHA

Suleyman, Mustafa. A próxima onda: inteligência artificial, poder e o maior dilema do século XXI / Mustafa Suleyman, Michael Bhaskar ; tradução Alessandra Bonrruquer, - 1. ed. - Rio de Janeiro: Record, 2023.

Este livro é uma obra inovadora em diversos momentos e por vários motivos. O primeiro e mais claro é o fato de que ele aborda a temática como sendo pessimista em relação ao futuro com a inteligência artificial e a biotecnologia. Diferente do que se espera, o autor não escreve uma obra descrevendo os efeitos como negativos em um todo, mas como uma ferramenta que não podemos parar, mas podemos moldar os seus efeitos sobre a sociedade e seu funcionamento.

Mustafa Suleyman é um pesquisador e empresário britânico de inteligência artificial, cofundador e ex-chefe de IA aplicada da DeepMind, uma empresa de inteligência artificial. Portanto, compreende-se que o autor fala de convicções pautando-se no conhecimento profundo do universo da IA. O título “A onda” é uma forma de expressar a rápida proporção social acerca da influência da inteligência artificial, como ocorreram com as NFTs ou com o metaverso, que, cada qual em seu período, gerou diversas especulações. A maioria delas levantando debates interessantes acerca de como somos moldados e dominados pelo mundo digital e pelas ondas dos virais sociais tecnológicos. Ele também a vê como parte de uma era tecnológica mais ampla, que está ligada à engenharia genética, especialmente à edição genética e à biologia sintética. Também apanhadas pelas correntes estão outras tecnologias potencialmente revolucionárias, como a computação quântica e a energia de fusão. Suleyman argumenta de forma convincente que nenhuma destas tecnologias se desenvolve isoladamente; elas procedem sinergicamente, à medida que o progresso numa área estimula o progresso nas outras.

O principal conteúdo e tese desta obra dialoga diretamente com o poder socioeconômico e político das grandes potências, que, como sabemos, poderão devastar a sociedade de formas avassaladoras, tudo com o poder em suas mãos através de uma tecnologia extremamente avançada e repleta de ganchos e macetes jamais vistos, trabalhando de forma autônoma e eficiente sem muito esforço ou programação.

Suleyman também diverge da linha mais comum da indústria tecnológica na forma como recorre de forma impressionante ao passado para nos ajudar a compreender o presente e a preparar-nos para o futuro. Vinhetas históricas sobre o progresso tecnológico, desde a Revolução Industrial ao motor de combustão e aos primórdios da Internet, estão envolventemente entrelaçadas ao longo do livro. Como demonstram estes exemplos, as ondas tecnológicas são quase imparáveis ​​— e, de qualquer forma, não deveríamos querer detê-las, porque a estagnação tecnológica não é a resposta. Como ele escreve astutamente: “A civilização moderna assina cheques que só o desenvolvimento tecnológico contínuo pode descontar”.

É particularmente interessante que Suleyman inclua uma discussão ampla e ponderada sobre medidas concretas e práticas que podemos tomar. Suas sugestões são notavelmente amplas e equilibradas. Ele rejeita veementemente o hiper-libertarianismo de magnatas da tecnologia como Peter Thiel, e defende uma regulamentação forte e a cooperação internacional, mas reconhece a natureza míope dos governos modernos e as inúmeras formas pelas quais a regulamentação falha. Em questões econômicas, ele não vai tão longe como algumas críticas contundentes aos fundamentos capitalistas da IA, mas vai muito mais longe do que a maioria na indústria tecnológica quando discute o papel dos incentivos financeiros no encorajamento da assunção de riscos perigosos. Ele também oferece algumas ideias intrigantes sobre política fiscal e reestruturação empresarial que merecem mais atenção.

Ainda não se sabe se o ChatGPT acabará sendo central para a onda que se aproxima ou apenas detritos levados para a costa pelas tecnologias que realmente importam. Em vez de nos concentrarmos nas aplicações que resistirão ao teste do tempo e nas start-ups que terão sucesso, devemos olhar para cima e reconhecer o que se aproxima rapidamente e que há muitas coisas que podemos fazer para nos prepararmos para isso. Suleyman fornece um guia muito necessário — e extraordinariamente atencioso, expansivo, historicamente enraizado e escrito de forma envolvente.

Ele acredita que dentro de alguns anos, os sistemas de IA entrarão no amplo mercado público, colocando um enorme poder computacional nas mãos de qualquer pessoa com alguns milhares de dólares e um pouco de experiência. Suleyman reconhece que isto poderia trazer benefícios notáveis, mas argumenta que os negativos são ainda maiores. Uma possibilidade assustadora é um indivíduo descontente usar IA pronta para uso para fabricar um vírus mortal e imparável. Outros cenários vão desde a perturbação dos mercados financeiros até à criação de inundações de desinformação.

Suleyman aceita que o gênio da IA ​​está muito fora da garrafa para ser colocado de volta; as questões agora são sobre contenção e regulação. Existe um modelo na estrutura estabelecida pelo setor biomédico para estabelecer diretrizes e limites morais sobre quais experimentos genéticos poderiam ser realizados.