Um relatório gerado com o auxílio da inteligência artificial (IA) quase provocou uma guerra entre Estados Unidos e China no primeiro semestre deste ano. A informação foi divulgada nesta sexta-feira (18/9) pela CNN International.
O documento, segundo fontes militares ouvidas pelo jornal norte-americano, indicou que um navio chinês estaria transportando carga nuclear no Oriente Médio. Diante da ameaça, forças dos EUA traçaram um plano para interceptar a embarcação.
Acontece que, poucos antes da operação, que já contava com aviões norte-americanos sobrevoando a região onde o navio da China navegava, um erro no relatório foi descoberto antes de qualquer ação ser tomada — o que poderia provocar uma reação de Pequim e uma escalada entre os dois países.
Os militares identificaram que o navio chinês não levava carga nuclear. O analista responsável pela elaboração do documento utilizou uma ferramenta de IA, que identificou de forma errada o material transportado pelo navio chinês
A principal suspeita é de que a inteligência artificial tenha utilizado dados de código aberto, combinados com informações de inteligência secretas, para chegar à conclusão errada. Após isso, o analista responsável pelo relatório ainda teria usado a IA para compilar as descobertas no formato de um documento padrão.
Até o momento o governo norte-americano não se pronunciou sobre o caso.
O episódio, contudo, surge em meio à preocupação da comunidade internacional sobre o avanço da IA e as possíveis consequências negativas que esta pode causar no mundo.
Nas últimas semanas, cientistas e executivos do setor têm feito alertas sobre a possibilidade de a tecnologia ser um risco existencial para a humanidade. O temor é de que a IA avance a tal ponto que se torne capaz de executar ações sem o auxílio de humanos.
Em agosto deste ano, por exemplo, um drone da Rússia escolheu, de maneira autônoma, os alvos de um ataque que deixou três mortos na região de Zaporizhzhya. A rota do veículo não tripulado, contudo, foi programada por seres humanos previamente.
