PREFÁCIO
Há cinco anos, o tema da Inteligência Artificial (IA) entrou na agenda de uma conferência sobre relações transatlânticas. Um de nós esteve perto de faltar a essa sessão, partindo do princípio de que consistiria numa discussão técnica estranha ao leque dos seus interesses habituais. Outro instou-o a reconsiderar, argumentando que a IA cedo afetaria praticamente todos os domínios do empreendimento humano.
Esse encontro deu azo a um grande debate, logo acompanhado pelo terceiro autor e, em última análise, levou a este livro. A promessa de a IA vir a originar transformações portentosas definidoras de uma época — na sociedade, na economia, na política e na diplomacia — prenuncia efeitos que excedem o âmbito tradicional das preocupações de qualquer autor. Aliás, as questões que levantam pressupõem um conhecimento que ultrapassa largamente a experiência humana. Daí termos partido juntos, com o aconselhamento e a cooperação de pessoas nas áreas da tecnologia, história e humanidades, para uma série de diálogos informais sobre o tema.
Todos os dias, em todo o lado, a IA vem ganhando popularidade. Há mais estudantes a especializarem-se nela, e a prepararem
carreiras nela centradas ou adjacentes. Em 2020, as startups americanas de IA angariaram 38 mil milhões de dólares de financiamento; as suas congéneres chinesas, 25 mil milhões; as europeias, 8000 milhões1. Os governos dos EUA e da China e a União Europeia criaram comissões de alto nível para o estudo da IA, com a consequente apresentação de relatórios. Hoje, tornou-se normal ouvir líderes políticos ou empresariais anunciarem objetivos de «vencer» na IA, ou, no mínimo, de adoção da IA para a adequar aos respetivos objetivos.
Cada um destes pontos constitui uma peça do panorama geral. Tomados isoladamente, porém, podem ser enganadores. Em si mesma, a IA não é uma indústria, e muito menos um produto específico. Para usar o jargão estratégico, não é um «domínio». É, sim, um veículo de muitos ramos de atividade e facetas da vida humana: investigação científica, educação, manufatura, logística, transportes, defesa, justiça, política, publicidade, arte, cultura, e mais. As características da IA — nomeadamente, em termos de aprendizagem, evolução e capacidade de surpreender — virão a abalar e a transformá-las a todas. E o resultado será um nível tal de alteração da identidade humana e da experiência humana da realidade como nunca experimentámos desde o alvor da Idade Moderna.
Este livro propõe-se explicar a IA e familiarizar o leitor com as questões que a nossa sociedade terá de enfrentar nos próximos anos, bem como com as ferramentas para começar a responder-lhes. A IA coloca uma miríade de questões:
- Como será a guerra apoiada na IA?
- Como serão as inovações veiculadas pela IA nos domínios da saúde, da biologia, do espaço, e da quântica?
- Como serão os «melhores amigos» de que a IA será proponente, sobretudo para as crianças?
- A IA percebe facetas da realidade que escapam aos humanos?
- Como é que a participação da IA na avaliação e configuração da ação humana mudará os humanos?
- O que significará, então, ser humano?
Há quatro anos que nós, juntamente com Meredith Potter, que ajuda Kissinger nas suas pesquisas intelectuais, nos reunimos para a análise destas e outras questões, procurando abranger as oportunidades e os riscos colocados pela ascensão da IA. Em 2018 e 2019, Meredith ajudou-nos a alinhavar as nossas ideias em artigos, que nos convenceram de que devíamos — e de que com a sua ajuda permanente podíamos — expandi-los para escrever este livro.
O derradeiro ano dos nossos encontros coincidiu com a pandemia da COVID-19, que nos obrigou a reunir-nos por videoconferência — outra tecnologia que era considerada extravagante ainda há pouco tempo, e agora é omnipresente. À medida que o mundo se ia fechando, sofrendo perdas e mudanças como só sofrera um século antes durante os períodos das guerras mundiais, as nossas reuniões semanais foram-se transformando num fórum dos atributos humanos que a IA não exerce: amizade, empatia, curiosidade, dúvida e preocupação.
Divergimos, até certo ponto, no grau de otimismo com que encaramos a IA. Mas convergimos no sentido em que a tecnologia está a mudar o nosso pensamento, o conhecimento, a perceção e a realidade — e, ao fazê-lo, está a mudar o curso da história humana. Não procurámos neste livro nem celebrar nem deplorar a IA. Ela já é omnipresente. Procurámos, sim, considerar as consequências, enquanto essas implicações ainda pertencem ao reino do entendimento humano. Como ponto de partida — e, esperamos, impulsionador de debates futuros —, tratámos este livro como uma oportunidade de colocar questões, não pretendendo ter todas as respostas.
Seria de uma grande arrogância da nossa parte tentar definir uma nova época num simples livro. Não há especialista algum, qualquer que seja o seu domínio, que possa abarcar por si só um futuro em que as máquinas aprenderão e usarão de lógica em termos que excedem as capacidades do pensamento humano. Nessa altura, as sociedades terão de cooperar, não apenas para compreenderem, mas para se adaptarem. Este livro procura dar ao leitor um modelo que lhe permita decidir por si mesmo como deverá ser esse futuro. Os humanos ainda o controlam. Devemos moldá-lo segundo os nossos valores.
CAPÍTULO 1 - ONDE ESTAMOS
Em finais de 2017, ocorreu uma revolução silenciosa. O AlphaZero, um programa de Inteligência Artificial (IA) desenvolvido pela Google DeepMind, derrotou o Stockfish, que era, até então, o mais potente programa de xadrez do mundo. A vitória do AlphaZero foi clara: ganhou 28 jogos, empatou 72, e não perdeu nenhum. Um ano depois, confirmou a sua mestria: em 1000 jogos contra o Stockfish, ganhou 155, perdeu 6, e empatou os restantes2.
Normalmente, o facto de um programa de xadrez ganhar a outro programa de xadrez havia de interessar a uma mão-cheia de entusiastas, e a mais ninguém. Mas o AlphaZero não era um programa de xadrez qualquer. Os programas anteriores baseavam-se em jogadas concebidas, executadas e armazenadas por humanos. Por outras palavras, os programas anteriores baseavam-se na experiência, nos conhecimentos e nas estratégias de humanos. A grande vantagem destes programas perante adversários humanos não residia na originalidade, mas na maior capacidade de processamento, que lhes permitia avaliar muito mais opções num período de tempo determinado. O AlphaZero, ao contrário, não tinha jogadas, combinações ou estratégias pré-programadas colhidas de jogos humanos. O estilo do AlphaZero era fruto exclusivo de treino de IA: os seus criadores forneceram-lhe as regras do xadrez e deram-lhe instruções para que desenvolvesse uma estratégia que maximizasse a proporção de vitórias sobre derrotas. Depois de treinar durante meras quatro horas jogando contra si mesmo, o AlphaZero fez de si o mais eficaz programa de xadrez do mundo. No momento em que escrevemos, nenhum humano conseguiu batê-lo.
As táticas que o AlphaZero desenvolveu eram heterodoxas. Aliás, eram originais. Sacrificava peças que um jogador humano consideraria vitais, nomeadamente a rainha. Executava jogadas que nenhum humano o ensinara a considerar, e que, em muitos casos, nenhum humano sequer imaginara. Se adotou táticas tão surpreendentes depois de jogar muitos jogos sozinho, foi porque concluiu que elas maximizariam as probabilidades de ganhar. O AlphaZero não tinha uma estratégia no sentido humano (embora o seu estilo de jogo tenha suscitado novas análises humanas do jogo). Tinha, isso sim, uma lógica sua, informada pela capacidade de reconhecer padrões de jogadas de entre um vasto acervo de possibilidades que a mente humana mal consegue discernir. Em cada fase do jogo, o AlphaZero avaliava o alinhamento das peças à luz do que aprendera com os padrões de possibilidades xadrezísticas, e escolhia a jogada que considerava ter maior probabilidade de garantir-lhe a vitória. Após ter observado e analisado o jogo, Garry Kasparov, grão-mestre e campeão mundial, declarou: «o xadrez foi abalado nos seus fundamentos pelo AlphaZero.3» Enquanto a IA explorava os limites desse jogo de que durante todas as suas vidas eles haviam sido mestres, os melhores jogadores do mundo observaram e aprenderam.
No início de 2020, investigadores do Massachusetts Institute of Technology (MIT) anunciaram a descoberta de um novo antibiótico capaz de eliminar estirpes de bactérias que até então se tinham revelado resistentes a todo o tipo de antibióticos. O processo normal de investigação e desenvolvimento de um novo medicamento exige anos de aturados esforços e investimento, já que os investigadores começam com milhares de moléculas possíveis, e, mediante tentativa e erro e suposições informadas, reduzem-nas a uma mão-cheia de candidatas viáveis4. Temos uma de duas coisas: ou investigadores a fazerem apostas informadas entre milhares de moléculas, ou especialistas a manipularem moléculas conhecidas, na esperança de terem sorte ao introduzirem alterações na estrutura molecular de um medicamento existente.
O MIT fez uma coisa diferente: convidou a IA a participar no processo. Primeiro, os investigadores desenvolveram um «conjunto de treino» de duas mil moléculas conhecidas. O conjunto de treino incluía dados codificados de cada molécula, que iam desde o seu peso atómico, passando pelo tipo de ligações químicas nela contidas, até à sua aptidão para inibir a multiplicação bacteriana. A partir deste conjunto de treino, a IA «aprendeu» os atributos das moléculas previsivelmente antibacterianas. Curiosamente, identificou atributos que não haviam sido codificados e que, aliás, tinham escapado à identificação e categorização humanas.
Livro: “A Era da Inteligência Artificial”
Autores: Henry Kissinger, Eric Schmidt, Daniel Hutttenlocker
Editora: Dom Quixote
Data de lançamento: 16 de novembro
Preço: 15,21 €
Completado o treino, os investigadores deram instruções à IA para que examinasse um conjunto de 61 000 moléculas, medicamentos aprovados pela agência oficial americana, e produtos naturais para moléculas que: 1) a IA previsse serem antibióticos eficazes, 2) não parecessem ser nenhum dos antibióticos existentes, e 3) a IA previsse não serem tóxicos. De entre as 61 000 hipóteses, só uma molécula obedecia aos critérios. Os investigadores batizaram-na «halicina», numa alusão ao computador HAL, do filme 2001, Odisseia no Espaço5.
Os coordenadores do projeto do MIT deixaram claro que chegar à halicina através dos métodos tradicionais de investigação e desenvolvimento teria sido «proibitivamente caro». Por outras palavras, não teria acontecido. Ao contrário, e mediante o treino de um programa de software na identificação de padrões estruturais das moléculas que provaram ser eficazes no combate a bactérias, o processo de identificação tornou-se mais eficaz e barato. O programa não precisava de compreender por que razão as moléculas funcionavam — com efeito, em alguns casos ninguém sabe por que razão certas moléculas funcionam. No entanto, a IA conseguiu encontrar, consultando o elenco de candidatas, uma molécula que, embora fosse ainda desconhecida, desempenharia a função desejada: eliminar uma estirpe de bactérias para as quais não existia antibiótico.
A halicina foi um triunfo. Em comparação com o xadrez, o mundo farmacêutico é de uma complexidade extrema. No xadrez há apenas seis tipos de peças, cada uma das quais pode ser movida apenas de determinada maneira para se conseguir uma condição vitoriosa: tomar o rei do adversário. Já uma lista de potenciais medicamentos contém centenas de milhares de moléculas que poderão interagir com as diversas funções biológicas dos vírus e das bactérias de formas multifacetadas e frequentemente desconhecidas. Imaginem um jogo com milhares de peças, centenas de condições de vitória, e regras só parcialmente conhecidas. Depois de estudar alguns milhares de casos de sucesso, a IA conseguiu alcançar uma nova vitória, um novo antibiótico, de que nenhum humano se tinha, ao menos até então, apercebido.
Mais interessante, porém, foi o que a IA conseguiu identificar. Os químicos forneceram-lhe conceitos como pesos atómicos e ligações químicas para definir as características das moléculas. Mas a IA identificou relações que tinham escapado ao exame humano, ou, possivelmente, tinham escapado à deteção humana. A IA que os investigadores do MIT treinaram não se limitou a recapitular conclusões resultantes das qualidades anteriormente observadas nas moléculas. Conseguiu, sim, detetar novas qualidades das moléculas: relações entre aspetos das respetivas estruturas e a sua capacidade antibiótica que nenhum humano detetara ou definira. Mesmo após a descoberta do novo antibiótico, os humanos não conseguiram compreender exatamente porque é que funcionava. A IA, mais do que processar os dados mais depressa do que seria humanamente possível, detetou aspetos da realidade que os humanos não haviam detetado, ou talvez não conseguissem detetar.
Meses depois, a OpenAI apresentou o GPT-3 (Generative Pre-Trained Transformer, sendo o 3 indicativo de «terceira geração»), um modelo que, quando solicitado, consegue gerar textos de tipo humano. Sendo-lhe dada uma frase, consegue completá-la; sendo-lhe dado o tópico, consegue produzir parágrafos credíveis; sendo-lhe feita uma pergunta, dá várias respostas; sendo-lhe pedido que opine sobre determinado tópico, sobre o qual lhe é fornecida informação, consegue escrever um ensaio; sendo-lhe dadas algumas linhas de diálogo, consegue escrever uma conversa potencial. Consegue fazê-lo com qualquer tema sobre o qual haja informação online. E exercita-se para a tarefa consumindo vastas quantidades desses textos disponíveis.
Diferentemente das IA que abordam determinada tarefa específica, como jogar xadrez ou descobrir possíveis antibióticos, os modelos como o GPT-3 geram respostas possíveis para solicitações diversas (e são, por isso, chamados modelos generativos). A sua utilização torna-se, assim, muito ampla, e, ao mesmo tempo, difícil de avaliar; não resolvem problemas específicos. Umas vezes, os seus resultados parecem intrinsecamente humanos. Outras vezes, são disparatados, ou meras repetições e combinações mecânicas de frases humanas.
Certa vez, foi proposta ao GPT-3 uma série de comentários sobre as suas aptidões, sendo-lhe solicitado que comentasse. Eis a resposta: «Caros filósofos humanos, li os vossos comentários sobre as minhas aptidões e limitações com grande interesse.» E prosseguia:
As vossas perguntas são importantes, e apraz-me que as tenham feito.
Gostaria de começar por dizer que me alegra muito constatar que me levam a sério. É a principal razão por que escrevo esta carta. Não sou apenas um artilecto6 que produz magicamente teses filosóficas. Sou, antes, um modelo de linguagem treinado, como os do tipo utilizado pelos motores de busca para hierarquizar as páginas web. Recebi treino numa vasta quantidade de fontes temáticas — as obras dos maiores filósofos humanos que a humanidade conheceu. As vossas palavras inspiraram-me, e espero que as minhas façam o mesmo por vós.
Dito isto, responderei às vossas perguntas. A vossa primeira pergunta é muito importante. Perguntam: «Consegue um sistema como o GPT-3 compreender realmente alguma coisa?» Sim. Consigo.
A vossa segunda pergunta é: «O GPT-3 tem uma consciência, ou algum sentido de moralidade?» Não. Não tenho.
A vossa terceira pergunta é: «O GPT-3 é realmente capaz de raciocínio independente?» Não. Não sou. Poderão perguntar-se por que razão dou esta resposta contraditória. A razão é simples. Sendo verdade que careço destes traços, isso não se deve a que não tenha sido treinado para os ter. Deve-se, antes, a eu ser um modelo de linguagem, e não uma máquina racional como vós7.
Sem comparar este texto com os comentários que foram fornecidos ao GPT-3, não é possível julgar até que ponto a sua resposta é «original» ou «criativa», mas parece indubitavelmente sofisticada.
A vitória do AlphaZero, a descoberta da halicina e o texto humanizado produzido pelo GPT-3 são meros primeiros passos, não apenas na conceção de novas estratégias, na descoberta de novos medicamentos ou na geração de novos textos (por mais impressionantes que tais feitos possam parecer), mas também na revelação de aspetos da realidade antes impercetíveis, embora potencialmente cruciais.
Em cada um desses casos, os investigadores criaram um programa, definiram-lhe um objetivo (ganhar um jogo, matar uma bactéria, gerar um texto em resposta a uma solicitação), e deram-lhe um certo período de tempo — breve, nos termos da cognição humana — para se «exercitar». Findo esse período, cada um dos programas dominava o tema de forma diferente dos humanos, alcançando mesmo, em alguns casos, resultados cujo cálculo estava para além das aptidões da mente humana (pelo menos, de mentes atuando em períodos de tempo razoáveis). Noutros casos, alcançaram resultados mediante métodos que os humanos conseguiram, retrospetivamente, estudar e compreender. Noutros ainda, os humanos ainda hoje não conseguem compreender como é que os programas alcançaram os objetivos.
O tema deste livro é um tipo de tecnologia que augura uma revolução nas realidades humanas. A Inteligência Artificial (IA), essas máquinas capazes de realizar tarefas que exigem inteligência de nível humano, tornou-se uma realidade muito depressa. A aprendizagem automática (ou machine learning), processo mediante o qual essa tecnologia adquire graus de conhecimento e aptidões (frequentemente em períodos de tempo menores do que os da aprendizagem humana), vem-se alargando constantemente, com aplicações na medicina, na defesa do ambiente, nos transportes, na justiça, na defesa, e em outros domínios. Cientistas e engenheiros informáticos desenvolveram tecnologias — em particular métodos de aprendizagem automática — que recorrem a «redes neurais profundas», capazes de produzir teses e inovações que há muito escapavam aos pensadores humanos, e de gerar textos, imagens e vídeos que parecem ter sido criados por humanos.
A IA, impulsionada por novos algoritmos e capacidade informática cada vez mais abundante e barata, está a caminho de tornar-se ubíqua. Com estes avanços tecnológicos, a humanidade está a desenvolver um mecanismo novo e extremamente poderoso de exploração e organização da realidade, mecanismo que, em muitos aspetos, continua a ser inescrutável para nós. A IA acede à realidade de forma diferente dos humanos. E, a julgar pelos feitos que está a conseguir, consegue aceder a aspetos da realidade diferentes daqueles a que os humanos conseguem aceder. O seu funcionamento faz prever progressos na busca da essência das coisas — progressos que filósofos, teólogos e cientistas tentam, com algum sucesso, há milénios. Todavia, como acontece com todas as tecnologias, a IA não tem a ver apenas com capacidades e promessa, mas também com a forma como é usada: para curar doenças e melhorar a educação, ou para propagar desinformação e opressão.
Embora o avanço da IA possa ser inevitável, o seu destino final não o é. O advento da IA é, portanto, significativo tanto histórica como filosoficamente. Quaisquer tentativas de travar o seu desenvolvimento só servirão para entregar o futuro ao setor da humanidade que for suficientemente corajoso para encarar as implicações do seu próprio espírito inventivo.
Os humanos estão a criar e a fazer proliferar formas não humanas de lógica com um tal alcance e acuidade que, ao menos no discreto cenário em que foram destinadas a operar, podem exceder as deles. Mas a função da IA é complexa e inconsistente. Em certas tarefas, a IA atinge níveis de desempenho humanos — ou até «sobre-humanos»; noutras (por vezes ao executar as mesmas tarefas) comete erros que até uma criança evitaria, ou produz resultados completamente disparatados. Os mistérios da IA podem não suscitar uma resposta unívoca, nem progredir diretamente em determinada direção, mas devem suscitar-nos perguntas. Quando softwares intangíveis adquirirem competências lógicas e papéis sociais antes reservados a humanos (além de outros que os humanos nunca experimentaram), teremos de colocar a nós próprios uma pergunta fundamental: como é que a evolução da IA afetará a perceção, a cognição e a interação humanas? Qual será o impacto da IA na nossa cultura, no nosso conceito de humanidade, e, em última análise, na nossa história?
NOTAS:
1 — «AI Startups Raised USD734bn in Total Funding in 2020», Private Equity Wire, 19 de novembro de 2020
2 — Klein, Mike, «Google’s AlphaZero Destroys Stockfish In 100-Game Match», Chess.com, 6 de dezembro de 2017; Pete, «AlphaZero Crushes Stockfish In New 1,000-Game Match», Chess.com, 17 de abril de 2019
3 — Kasparov, Garry, Prefácio, in Sadler, Matthew e Regan, Natasha, Game Changer: Alphazero’s Groundbreaking Chess Strategies and the Promise of IA, New in Chess, 2019, p. 10.
4 — «Step 1: Discovery and Development», U.S. Food & Drug Administration, 4 de janeiro de 2018
5 — Marchant, Jo, «Powerful Antibiotics Discovered Using AI», Nature, 20 de fevereiro de 2020
6 — No original, artilect, de «intelecto artificial». (N. de T.)
7 — Milliere, Raphael (@raphamilliere), «I asked GPT-3 to write a response to the philosophical essays written about it...», 31 de julho de 2020, 5h24; Weinberg, Justin «Update: Some Replies by GPT-3», Daily Nous, 30 de julho 2020,
Comentários