A IA se tornará uma grande força ou uma grande irresponsabilidade no futuro?

AIInteligência artificial (IA) é um termo cujo significado muda constantemente. Os computadores estão provando ser capazes de fazer coisas que somente as pessoas mais inteligentes poderiam fazer. Mas, ao mesmo tempo, falha nas tarefas que mesmo uma pessoa comum realiza sem muita dificuldade.

No momento, o termo é usado principalmente para se referir ao aprendizado mecânico: técnicas que permitem que as redes de computadores descubram padrões ocultos em grandes quantidades de dados do mundo real. É quase o que algumas partes do cérebro biológico podem fazer. A IA, nesse sentido, é o que permite que os carros autônomos sejam capazes de reconhecer e agir de maneira apropriada em seu ambiente. É o que está por trás das habilidades misteriosas dos programas de reconhecimento de rosto e possibilita que assistentes pessoais, como falantes inteligentes em casa, recebam solicitações verbais e ajam de acordo. E, é claro, é o que ajuda as gigantescas indústrias de publicidade e marketing em seus esforços incansáveis ​​para mapear e explorar nossas fraquezas cognitivas e emocionais.

Mudando o jogo

O uso do aprendizado mecânico pelo governo chinês para a repressão política foi muito além das câmeras de vigilância. Um relatório recente de uma empresa governamental elogiou a capacidade do software de “antecipar o desenvolvimento da Internet e impedir sua interferência e orientar sentimentos públicos, evitar explosões de opinião pública on-line e melhorar as oportunidades sociais”. ».

No ano passado, houve algumas descobertas surpreendentes, cujas consequências se tornarão mais claras e mais importantes. O primeiro foi conceitual: a subsidiária do Google, DeepMind, que já havia superado as expectativas quanto ao que um computador poderia alcançar no xadrez, criou uma máquina que ensinava as regras desse tipo de jogo e depois de duas ou três dias de aprendizado, derrotaram todos os homens e todas as outras máquinas que já existiram.

No entanto, o AlphaZero não consegue entender as regras de qualquer jogo. Funciona apenas para jogos em que todos os elementos são conhecidos por todos os jogadores. Não há nada escondido em um tabuleiro de xadrez.

Os computadores que podem ser ensinados do zero, como o AlphaZero, são um marco importante na tecnologia. E há uma sensação bastante boba de que esse tipo de inteligência artificial parece viva.

Comparado aos programas de computador convencionais, atua por razões incompreensíveis para o mundo exterior. Ele pode ser treinado, como um papagaio, recompensando o comportamento desejado. De fato, descreve todo o processo de aprendizado. Mas não pode ser conscientemente projetado em todos os detalhes. Por exemplo, se um avião cair, é teoricamente possível reconstruir todos os pequenos passos que levaram ao acidente e entender por que cada um aconteceu e como levou ao próximo. Programas de computador convencionais podem ser corrigidos dessa maneira. Isso é verdade mesmo quando se interage com meios complexos e estranhos. Mas as redes neurais, o tipo de software usado em quase tudo o que chamamos de IA, não podem ser corrigidas dessa maneira. Sabemos que eles funcionam e podemos incentivá-los a trabalhar melhor. Mas, em seu estado físico, é completamente impossível reconstruir o processo pelo qual eles chegam a suas conclusões.

Amigo ou inimigo?

Um dos usos menos controversos do aprendizado mecânico é a interpretação dos dados médicos: para alguns tipos de câncer e outros distúrbios, os computadores já são melhores que os humanos quando detectam padrões perigosos em uma varredura. No entanto, é possível treiná-los ainda mais, para que eles também produzam uma lista de fatores que os levam a essas conclusões e as pessoas possam aprender com elas. É improvável que essas sejam realmente as características nas quais as decisões tomadas por esse programa se baseiam. Há também um crescente campo de conhecimento sobre como se pode enganar a classificação de uma imagem, em tais programas, com pequenas mudanças que não são visíveis aos seres humanos, de modo que uma representação esquemática simples de um peixe pode ser “provocada” dessa maneira. , para que a tecnologia de IA a classifique como um gato.

Mais preocupante é o fato de que a deformação aparentemente aleatória de um ponto de terminação pode fazer com que um sistema de computador assuma que é um limite de velocidade. Os arquivos de áudio também podem ser modificados intencionalmente para que os sistemas de reconhecimento de fala possam ser mal interpretados. Com o crescente uso de assistentes digitais, isso oferece alvos óbvios para os criminosos. E, embora o aprendizado mecânico torne possível o reconhecimento de impressões digitais, também permite que impressões digitais artificiais funcionem como chaves para desbloquear dispositivos.

O segundo grande desenvolvimento do ano passado torna os resultados ruins muito mais prováveis. Essa é a disponibilidade muito mais ampla de software e hardware avançados. Embora sejam necessárias grandes quantidades de dados e poder de computação para treinar a maioria das redes neurais depois de treinadas, uma rede pode funcionar com um hardware muito barato e simples. Isso costuma ser chamado de democratização da tecnologia, mas, na realidade, é sua redução à anarquia. As democracias têm os meios para fazer cumprir as decisões. Os anarquistas nem estão dispostos a tomar decisões. A disseminação desses poderes para governos autoritários, por um lado, e redes criminosas, por outro, é um duplo desafio para as democracias liberais.

A tecnologia nos dá poderes novos e quase impensáveis, mas, ao mesmo tempo, tira algumas possibilidades e talvez um pouco de compreensão, que pensávamos que sempre teríamos.