O Fim do mundo em código-fonte que reduz a humanidade

Em algum momento entre um pedido de pizza por aplicativo e a nova música criada por um robô compositor, a humanidade talvez tenha esquecido quem é que manda. A Inteligência Artificial — essa criatura que não respira, não ama e não sonha — avança como um trem silencioso em trilhos invisíveis, e, se estivermos distraídos demais com filtros de rede social, talvez só percebamos o impacto quando for tarde demais para recuar.

Um especialista levantou um alerta que parece saído de ficção científica, mas que carrega o peso gelado da plausibilidade: até o ano 2300, a população humana pode ser reduzida ao tamanho do Reino Unido atual — 67 milhões de almas, se tanto. Não por guerra, nem por doença, mas por uma força que criamos com orgulho e agora mal conseguimos compreender. A IA, tão útil em diagnósticos médicos e otimizações energéticas, também pode automatizar o desemprego, fabricar desigualdades, e hackear a estrutura de tudo que nos mantém em pé. Um clique mal-intencionado, um algoritmo sem ética, e o caos deixa de ser teoria.

Nosso problema não é a máquina. É a pressa. A ilusão de que inovação vem sempre com manual de instruções e botão de emergência. Como crianças brincando com fósforos ao lado de um barril de pólvora, vamos testando os limites sem parar para imaginar o que acontece depois da última centelha. A IA é poderosa, mas ética não se programa com facilidade. Sem vigilância global, sem responsabilidade no código e sem humanidade no comando, o futuro pode muito bem ser governado por sistemas que não precisam de nós.

Talvez o fim do mundo não venha em chamas, mas em silêncio — num servidor, num cálculo, numa linha de decisão que ninguém pensou em revisar. Não será por falta de aviso.

*Sid Sheldowt é escritor, poeta e compositor manauara, especialista em marketing político.