Realidade no dia a dia da sociedade, o uso ético da Inteligência Artificial exige muita reflexão. Com o objetivo de discutir sobre os impactos da tecnologia para o futuro da Educação e da sociedade, a professora do Instituto de Computação da UFF e fundadora do Núcleo de Referência em Inteligência Artificial Ética e Confiável, Profa. Dra. Mariza Ferro, e o professor da PUC/RJ e Co-coordenador do mesmo Núcleo, Prof. Gilberto Martins de Almeida, apresentaram um panorama sobre o tema no Centro Universitário Arthur Sá Earp Neto | Faculdade de Medicina de Petrópolis (UNIFASE|FMP).
“A inteligência artificial pode ser usada para o bem ou para o mal, por isso, é importante ampliarmos a consciência e estarmos antenados com o mundo atual”, ressaltou a reitora Maria Isabel de Sá Earp de Resende Chaves, agradecendo a presença de ex-alunos, autoridades, professores e dos alunos do 12º período de Medicina.
Durante o encontro, a professora Mariza Ferro ressaltou que a tecnologia impacta diferentes áreas da sociedade: “Precisamos desenvolver o uso da IA para que seja direcionada para o bem do ser humano e do planeta, preservando nossos valores. Já vemos como impacto negativo o estímulo ao preconceito, a influência sobre as eleições, a incitação ao ódio e à polarização social”, destacou a pesquisadora citando como princípios importantes o conceito de justiça, equidade, não discriminação, transparência, explicabilidade, robustez técnica, segurança, privacidade e proteção de dados, e responsabilidade e prestação de contas.
“O uso da IA precisa de um mínimo de regulação para que se torne moral e a ONU tem trabalhado para regulamentar a tecnologia globalmente”, afirmou o Prof. Gilberto Martins, sugerindo que o momento atual requer conhecimento de melhores práticas nacionais e internacionais, além de muita ponderação e equilíbrio.
Ferro lembra que a IA existe desde 1956, mas atualmente, por meio do aprendizado de máquinas e a entrada ostensiva na rotina da sociedade trouxe novos desafios. “A tecnologia foi criada por humanos e, por este motivo, não é neutra e não possui agência moral. Os desafios são mais positivos do que negativos, como a inclusão e a solução de problemas complexos da sociedade. Precisamos conhecer a tecnologia para desenvolver o pensamento crítico sobre como utilizar com ética”, afirmou a pesquisadora, sugerindo por exemplo que dados sensíveis não sejam compartilhados com nenhuma ferramenta de inteligência artificial, já que não há garantia de segurança de dados.
Martins também enumerou algumas precauções que podem ser adotadas para se manter a ética no uso da IA:
- Evidenciar com transparência que a ferramenta de IA foi utilizada;
- Checar se a ferramenta oferece rastreabilidade do que é incluído no dataset;
- Dar prioridade a alimentação do sistema com dados independentes;
- Avaliar respostas geradas levando em consideração o que foi solicitado;
- Manter uma política institucional clara e suficientemente divulgada e esclarecida.
