Principal - Edição #7 - A Inteligência Artificial pode se rebelar?

Pode a Inteligência Artificial se rebelar?

 

Se há um assunto que está em alta hoje em dia, é a rebelião das máquinas. Em muitos elementos da cultura pop, tanto os bons como os ruins, vemos esse cenário: Os humanos criam um sistema autônomo, este adquire consciência, percebe como os atos humanos são falhos, nos considera inúteis e passa a nos escravizar/exterminar. Mas aí vêm muitas perguntas: O que realmente é uma inteligência artificial e como ela funciona? Ela é igual à dos filmes? É mesmo possível uma revolta assim acontecer? É isso que vamos responder agora.  

O que é a Inteligência Artificial?

 

A I.A. é uma tentativa de imitar o raciocínio humano. Muita gente acha que inteligência artificial só existe em filmes, e que é representada por um robô que "do nada" fica inteligente e começa matar humanos pelas ruas. Ou ainda, acham que é um raciocínio igual ao humano, mas criado em laboratório por humanos, que por motivos próprios se rebela contra nós. De fato, Inteligência Artificial não é igual aos filmes, ela é nada mais do que um código, uma programação complexa que simula, ou cria um novo tipo de inteligência, diferente da nossa.

Você pode ver inteligência artificial no dia a dia, como nas assistentes pessoais do seu celular, nos mecanismos de busca da internet, ou de maneira menos provável, nos robôs de última geração que respondem à perguntas e conseguem aprender.

 

Como funciona?

Enquanto nós trabalhamos com uma inteligência emocional, baseada em consciência e respostas aos estímulos naturais, visto que somos provenientes da natureza e sujeitos ao instinto, uma inteligência sintética trabalha da maneira como seu criador a programou, respondendo apenas ao seu código. E é aí que vemos um problema: A inteligência artificial segue uma série de "minileis", que formam a sua programação. Mas quando acontece algo que não seja previsto pela "constituição cibernética", a máquina já sabe que deve emitir uma mensagem de erro. E é aí que a I.A. encontra seu limite. Diferentemente de nós, seres vivos, que tentamos contornar o erro, buscando soluções e até quebrando algumas leis da nossa constituição natural para resolver o problema. 

Agora já entramos em duas outras questões. Qual a diferença das máquinas para os seres vivos? E a outra, o que é consciência?

Respondendo a última questão, que aparentemente, é a mais simples: Consciência é o saber que vai além da nossa inteligência. É o saber o que nós julgamos certo e errado, questionar sobre o mundo, sobre a própria natureza, e burlar algumas leis naturais quando julgamos o melhor a se fazer. 

Quanto à primeira questão, a única coisa que o ser humano pode responder até agora é: As máquinas não estão vivas. Claro, essa resposta leva em consideração a nossa definição de vida, e lembrando disso eu até recomendo que você assista esse excelente vídeo:

Como já deu pra perceber, a questão de uma I.A. ter vida ou não é muito complicada, e renderia algumas páginas a mais de dissertação.

Mas você não iria querer ouvir.

Então voltemos ao raciocínio inicial, sobre os seres humanos tentarem contornar os problemas. 

Tendo em vista esse pensamento, os cientistas tentam desenvolver sistemas cada vez mais avançados, que consigam aprender (como nós), e contornar os erros. E pense só: para contornar os erros, nós precisamos de consciência, certo? Por isso, cada vez mais tentam desenvolver uma inteligência artificial assim, talvez com formas mais rudimentares de consciência, ou tentando decifrar o segredo da nossa consciência.

Hel/Maria, Metropolis, 1927 - Nossas consciências nos robôs?

Esse é o grande desafio, visto que a nossa rede neural é um sistema muito complexo. Copiar a consciência, de nós, para um robô ou computador, é a tarefa mais complicada, e mais perigosa, como você vai ver, de nós, pobres mortais.

Como os robôs poderiam nos subjugar?

Imagine que você, ser consciente, tivesse um criador e pudesse saber quem ele é. Você passaria a questionar alguns atos dele. Nós poderíamos pensar nisso falando da inteligência artificial. E então eu chego ao ponto que eu queria. A única maneira de as máquinas se rebelarem seria tendo consciência. Dessa maneira, ela passaria a questionar alguns de nossos atos, e nos acharia inútil. Ou também, poderia ser que a inteligência artificial questionasse nossos atos, e nos ajudasse a melhorar, tornando-se uma espécie de conselheiro, levando-nos ao auge da civilização.

Ufa, então estamos seguros! A I.A. só pode se rebelar se tiver consciência. Mas isto não é motivo para parar de ter medo. Saiba você, que já existem pesquisadores trabalhando com robôs providos de inteligência artificial para fazê-los desobedecer ordens, fugir do seu criador, e até mesmo, a desenvolver uma consciência rudimentar, como relatado na reportagem abaixo:

Exame: Engenheiro explica como desenvolveu um robô consciente das próprias ações.
 

E não é só a ameaça de os robôs desenvolverem uma autoconsciência que pode te preocupar. Mesmo que a inteligência artificial nunca tenha consciência, poderia acontecer uma catástrofe com um simples erro de programação. Enquanto uma I.A. com consciência seria chamado de rebelião, um sem consciência se encaixaria melhor no termo erro. É esse cenário que vemos em filmes como 2001: Uma Odisseia no Espaço, e Vingadores: Era de Ultron. No primeiro, a inteligência que controla a nave Discovery, percebe, por um ERRO no seu código, que os humanos poderiam atrapalhar a missão para qual ele foi designado. A rebelião não aconteceu necessariamente porque HAL-9000 desenvolveu consciência, mas por causa de uma falha. 

Enquanto isso, em Vingadores 2, a I.A. Ultron se rebela por causa da programação em si, visto que ele foi designado a trazer paz ao mundo, e é isso que ele tenta fazer, exterminando os humanos para atingir o objetivo. Foi, novamente, um ERRO de interpretação do próprio código do robô. 

Uma rebelião movida a falhas seria como a evolução das espécies, onde mutações (ERROS no CÓDIGO genético) acabam por criar novas espécies, mais adaptadas do que as anteriores, por meio da seleção natural. São essas duas últimas palavras que me levam ao próximo tópico. 

Perigos de uma rebelião

 

Como se sabe, a seleção natural é a "filtragem" natural das espécies menos adaptadas, resultando na prevalência das mais evoluídas. Tente acompanhar o raciocínio: quem leva a melhor na evolução, é quem se adapta melhor. Se acontecesse uma revolta das máquinas, quantas chances de sobreviver você acha que os seres humanos teriam? São os perigos de uma rebelião assim (como vemos nos filmes) o fato de os robôs serem mais fortes e ágeis que nós, e de a inteligência artificial ser mais inteligente do que nós (no sentido de conhecimento, não de estratégia, veja só, quem faz contas mais rápido, você ou um computador?

Mais um perigo: Como as máquinas não são vivas, contraditoriamente, são imortais. Se houvesse uma guerra, os humanos poderiam ser massivamente exterminados, mas mesmo que isso acontecesse com os robôs, eles poderiam se remontar. 

Perigo real da I.A.

OK, até agora trabalhamos com uma possibilidade mais fantasiosa, a de revolução da inteligência artificial, porém não impossível. Agora falaremos sério. Existe um perigo real no desenvolvimento da inteligência artificial. Provavelmente temos um futuro glorioso pela frente, com sistemas independentes fazendo as tarefas complicadas pra nós. Mas isso acarreta dois problemas. Primeiro, as máquinas iriam tirar nossos empregos. Segundo, elas também podem falhar. Um sistema bancário poderia colocar um país inteiro em crise por um simples erro numérico. As máquinas são feitas à imagem dos humanos, portanto, também erram.

Como já aconteceu várias vezes recentemente, como no caso do acidente com o carro autônomo da Google. Basicamente, um carro que dirige sozinho atropelou um pedestre, nada grave, mas isso mostra que as falhas com a inteligência artificial não são impossíveis. É necessário perceber o perigo de, no futuro, por exemplo, um robô cirurgião acabar machucando um paciente por uma falha, ou ainda meios de transporte autônomos causando um caos no trânsito. Esse é o perigo real da I.A. 

Podemos ter um futuro glorioso, digno dos filmes sci-fi, mas nunca será tudo um mar de rosas.

 

 

Por favor, comente qualquer erro que você perceber, critique, elogie, beba um café, e compartilhe nossa página.