Quem terá atendimento prioritário no Sistema Único de Saúde (SUS)? Quem são os potenciais criminosos a serem monitorados em uma localidade? Quem será salvo por um carro autônomo em caso de acidente iminente? Estas foram algumas das questões levadas por Cristina Garcia, pesquisadora de Inteligência Artificial e Interação Humano-Computador, para a palestra “Ética em tempos de robô”, realizada em 18/09 na Casa Firjan. A conversa focou em questões éticas que desafiam a sociedade, com o advento da Inteligência Artificial (IA).
A discussão, em mais um dos eventos do ciclo de paletras da Casa Firjan, partiu da premissa de que, no futuro, sistemas inteligentes podem estar no centro de quase todas as decisões sociais. Os algoritmos – sequência finita de instruções bem definidas e executadas mecânica ou eletronicamente – tiveram papel central no debate.
Confira a programação das próximas palestras e também dos cursos na Casa Firjan.
Cristina, também professora do Departamento de Informática Aplicada da UniRio, explicou que a IA cria dilemas éticos, pois os sistemas embutem um conjunto de valores em sua base de dados, usada para formatar decisões preconcebidas. Com isso, o risco de reforçar preconceitos é alto, alertou. “As decisões serão tomadas em favor de quem? Erros que podem ser fatais. O debate mexe com o grau de autonomia que vamos dar a esses sistemas”, pontuou.
Segundo destacou, no caso da aplicação de IA para o combate ao crime, a base de dados existente no Brasil reforçaria estereótipos e não pegaria “colarinho branco”, por exemplo. “O usuário pode ser uma vítima das decisões”, disse Cristina, para quem um dos caminhos necessários envolve a regulação dos dados, por meio de leis que vêm sendo adotadas por mais de 120 países, incluindo o Brasil.
Base de dados influencia o resultado
Rogério de Paula, gerente de Análise Visual e Pesquisa Compreensiva da IBM, explicou que o programador de um sistema inteligente, na verdade, resolve um problema matemático. As redes atuais, entretanto, são cada vez mais complexas, processando milhares de parâmetros, muito além do que o ser humano consegue lidar. “Os problemas éticos são questões técnicas a serem resolvidas, pois a base de dados vai influenciar o resultado”, alertou.
Já André Magnelli, diretor executivo, professor e livre-pesquisador do Ateliê de Humanidades, defendeu a oferta de curso para que as pessoas entendam como agem as máquinas e robôs. “É importante ter consciência crítica sobre como os algoritmos funcionam para não entrar no jogo de quem os cria”, enfatizou.
Um debate relevante, segundo ele, é saber até que ponto a IA pode assumir o papel dos decisores, tendo em vista que seres humanos têm consciência; e robôs, não. Os riscos previstos por ele são a privação de liberdade, em decorrência da vigilância e controle em massa; aumento da discriminação; e perda de autonomia das pessoas. Mas Magnelli critica a polarização entre tecnófilos e tecnófobos. “Nem defesa cega nem catastrofismo, pois, dependendo da aplicação, a tecnologia pode ser um avanço”.
