A série orwelliana é vista para muitos especialistas como uma sátira negra e pessimista sobre o futuro da sociedade. No entanto, com o passar do tempo vemos que algumas das “realidades descritas” noutras temporadas não estavam assim tão longe da nossa realidade atual.
Peguemos no exemplo de um episódio de uma das temporadas anteriores, em que vemos uma sociedade em que cada pessoa tem um rating e que isso tem um impacto na forma como vive a sua vida. Aos dias de hoje, será que difere muito da contagem de gostos e seguidores nas redes sociais?
Nesta perspectiva, ao assistir aos novos episódios da temporada 7 de Black Mirror, é normal surgir a questão: até que ponto estamos perante uma realidade ou um absurdo?
Existem três episódios que se destacam no uso de novas tecnologias e que fomos analisar com a ajuda de um especialista. José Manuel Ferreira Machado é professor catedrático no Departamento de Informática da Universidade do Minho e é considerado um dos principais especialistas portugueses em Inteligência Artificial.
Começa por avisar que não é fã da série por discordar da sua abordagem às novas tecnologias. “A série tem uma visão pessimista da tecnologia, com a qual não me revejo. A tecnologia deve ser usada de forma responsável, atendendo a valores éticos e societais”, sublinha.
Olhemos para três episódios desta nova temporada que trazem a IA à discussão: “Bête Noire” (EP 2); o “Hotel Reverie” (EP 3) e “Eulogy” (EP 5).
“Bête Noire”
Começamos pelo Episódio 2. É centrado numa relação atípica entre duas colegas de trabalho. As duas personagens conheceram-se na escola e em forma vingança dos tempos do passado, uma delas criou um sistema capaz de alterar a realidade de acordo com a sua vontade.
Usa um pendente no pescoço e vai apagando e-mails, alterando imagens de forma a “tramar” uma colega de sucesso no local de trabalho. A vítima acaba desesperada e vista como louca.
O professor dividiu a análise deste episódio em duas partes. E avaliou a possibilidade de vir a ser possível alterar a realidade ou criar uma realidade paralela de acordo com a nossa vontade.
- Gaslighting com tecnologia
“Isto não é ficção científica, é perfeitamente possível manipular percepções digitais para fazer alguém duvidar da própria sanidade”, explica José Manuel Ferreira Machado.
Esta é a parte mais básica da questão relativa à eliminação de e-mails, manipulação de resultados de pesquisa ou acesso a contas privadas que pode ser feito através de engenharia social/hacking e de malware.
- Sistema que muda a realidade segundo a vontade de alguém
Esta é a questão central do episódio que vai além da tecnologia atual. No entanto, existem nuances. “Os sistemas de IA que moldam percepções já existem. Algoritmos que determinam o que vemos, o que ouvimos, o que nos é mostrado online, podem criar realidades diferentes para cada utilizador. A realidade aumentada/virtual/mista está a aproximar-se disso. Um sistema pode mudar o ambiente digital em tempo real consoante o estado emocional ou os desejos de uma pessoa”, refere o criador do grupo de investigação em Engenharia do Conhecimento no Centro ALGORITMI.
Os “Deepfakes” e a IA generativa já permitem criar imagens. Este é, segundo o especialista, “um pequeno passo para mudar a realidade do ponto de vista de quem consome o conteúdo”.
Portanto, embora ninguém tenha (ainda) um botão para reescrever o mundo físico como num jogo “a manipulação da realidade está a tornar-se cada vez mais realista e poderosa”, alerta o especialista em IA.
“Hotel Reverie”
No episódio 3, a tecnologia Redream, que insere atores em filmes antigos e gera diálogos de forma artificial, levanta questões reais sobre a autoria e o valor da criação humana “num mundo onde as inteligências artificiais parecem assumir o controlo de estúdios inteiros”.
O professor da Universidade do Minho destaca os debates sociais e as atitudes empresariais recorrentes relacionados com este temática — como o exemplo da Netflix a autocriticar-se com uma “ironia subtil e cínica”.
“O texto de Charlie Brooker traça um retrato relativamente amargo de um cinema que tenta reinventar-se sem perder a alma, mas que denuncia algo perdido: a capacidade dos novos tempos para gerar os seus próprios clássicos, tendo de recorrer constantemente a remakes, prequelas, sequelas, spin-offs e afins”, exemplifica.
Voltando ao episódio, o especialista considera que a tecnologia descrita, como a “Redream", obriga-nos a repensar o que valorizamos na arte e quem tem o direito de a criar.
Alerta para o facto da Inteligência Artificial poder ser uma ferramenta extraordinária, mas, quando assumimos simultaneamente os papéis de autora, realizadora e produtora, corremos o risco de eliminar a criatividade humana que esteve sempre no centro da criação artística.
A IA já é capaz de escrever guiões, criar rostos de atores que nunca existiram e gerar cenas com um realismo quase total. A linha entre realidade e ficção “esbate-se perigosamente”, afirma o professor, “vivemos numa era em que a ficção antecipa o real, e, por vezes, até o inspira. A crítica ao estado atual da indústria cinematográfica, marcada por uma forte dependência de remakes, spin-offs e fórmulas repetidas, não é ficção: é uma realidade amplamente debatida por criadores, críticos e pelo próprio público”, conclui.
“Eulogy”
Assistimos a um “velório imersivo”. No Episódio 5 existe um aparelho “Disco guia” – consiste num pequeno dispositivo que fala e dá ordens. Quando o colocamos na testa e pensamos num assunto (neste caso numa pessoa que morreu), o dispositivo recolhe as nossas memórias e permite entrar em imagens através de um sensor nos olhos.
José Manuel Ferreira Machado explica que os investigadores já conseguiram reconstruir imagens visuais com base em padrões de atividade cerebral, recorrendo a fMRI (Imagem por ressonância magnética funcional) e a Inteligência Artificial. No entanto, estes são ainda estudos experimentais.
Lembra-nos por outro lado que já temos óculos de realidade aumentada (RA) e realidade virtual (VR) que permitem transformar fotografias em ambientes tridimensionais ou até aplicações que já oferecem esta funcionalidade com um certo grau de realismo, nomeadamente em museus e experiências imersivas.
Ou seja, no fundo a Inteligência Artificial já consegue animar rostos em fotografias antigas, criando vídeos e simulações de pessoas que já morreram. “Esta tecnologia está amplamente disponível apesar das implicações emocionais e éticas que levanta”, alerta o especialista.
No entanto, a ideia descrita no episódio de “importar” memórias diretamente para um dispositivo ou aceder a memórias completas como se fossem vídeos internos “continua a ser puramente ficcional”.
Contudo, empresas como a Neuralink estão a explorar formas de interação cérebro-máquina.
“Ainda assim, faltam avanços significativos para que essa tecnologia atinja um estado de maturidade avançada. Os progressos são promissores, mas ainda não existem meios técnicos ou éticos para concretizar esse tipo de acesso de forma controlada e fiável”, sublinha o professor catedrático José Manuel Ferreira Machado.
Apesar da nova temporada de Black Mirror apresentar tecnologias distópicas e inimagináveis, podemos concluir que a IA está a trazer a ficção e a realidade para um terreno cada vez mais comum que merece a nossa atenção.
É também relevante destacar a discussão sobre os limites éticos da IA nas artes, mais concretamente no cinema. Esta temática está amplamente enunciada nesta nova temporada da sátira tecnológica.
Os novos episódios de Black Mirror estão disponíveis na Netflix
Comentários