Recente reunião do Comitê de Inteligência Artificial da ABES contou com a participação especial de Fabio Eon Soares, Coordenador dos Programas de Ciências Humanas e Sociais e Ciências Naturais da UNESCO no Brasil, que compartilhou as ações e as perspectivas em relação às tecnologias de IA.
Fabio Eon explica que a Organização das Nações Unidas para a Educação, a Ciência e a Cultura (UNESCO) – no seu papel de agência técnica das Nações Unidas para os temas conferidos a partir de sua criação em 1945 – tem se debruçado cada vez mais, a pedido dos seus 193 países-membros, em discussões sobre ética na ciência e outros fatos marcantes da vida cotidiana.
Além de apoiar os seus países na formulação de políticas e programas em temas de educação, ciência e cultura, a UNESCO também tem atuado nas últimas décadas como uma importante instância neutra e multilateral para formular convenções, declarações ou recomendações internacionais que possam ajudar os países-membros da ONU em parâmetros universais e amplamente discutidos internacionalmente. A UNESCO já ajudou países com importantes marcos e referenciais internacionais em assuntos éticos, entre eles a Declaração Universal sobre Bioética e Direitos Humanos (2005) e a Recomendação sobre Ciência e Pesquisas Científicas (2017), que versam sobre princípios éticos na ciência. Confira a seguir, a entrevista realizada pelo Portal da ABES com Fabio Eon Soares.
– Como a UNESCO avalia a popularização das aplicações baseadas em IA?
Embora as tecnologias de IA tenham um valor extraordinário para o desenvolvimento social e econômico, elas também representam desafios complexos e únicos para os formuladores de políticas. A IA – como fenômeno recente e ainda pouco estudado ou regulado – levanta preocupações significativas sobre preconceitos, estereótipos e outras formas discriminação, isso sem falar na possibilidade de exacerbar algumas das desigualdades e assimetrias existentes na nossa sociedade. Sabemos, por exemplo, que países de maior renda tendem a usufruir melhor os benefícios das novas tecnologias e acreditamos que é crucial assegurar amplo acesso da população ao potencial das novas tecnologias e, mais importante ainda, que elas sejam usadas para fins legítimos e pacíficos.
– Existe alguma área de IA que demanda mais atenção? (ex. reconhecimento facial, saúde, segurança pública etc.)
Não se trata aqui, portanto, de desqualificar as potencialidades da IA, pelo contrário. Reconhecemos amplamente a enorme contribuição dela em novos sistemas educacionais, em modelos de acompanhamento do clima e prevenção de desastres naturais e outras tantas aplicações que fazem nossa vida mais segura, produtiva e até mesmo mais divertida. Mas é bem verdade que – como para qualquer nova tecnologia – existem questões que precisam ser melhor trabalhadas e aprimoradas. Não nos cabe, como UNESCO, dizer qual o uso correto ou não da IA, mas é amplamente noticiado que algumas falhas, desvios ou resultados adversos às vezes são verificados, como em softwares de reconhecimento facial amplamente utilizados mundo afora ou outros campos onde os algoritmos tendem a induzir interpretações equivocadas. Nossa maior preocupação é com vieses de programação ou efeitos que acabem por gerar mais malefícios do que benefícios. Em outras palavras, não se deve culpar a tecnologia. A IA não é boa nem má em si mesma. O uso dela pelos seres humanos é que deve ser melhor acompanhado. De modo análogo, não se deve culpar um carro pelo excesso de velocidade, por exemplo, mas sim o motorista pela imprudência e má condução.
– Pode explicar as principais recomendações da UNESCO para as aplicações em IA? Existe algum site que pode ser acessado para que os interessados obtenham mais informações?
Nesse sentido, visto que cada vez mais as decisões nas esferas pública e privada estão sendo tomadas com base nas análises produzidas pela IA, a UNESCO defende que IA seja desenvolvida de modo a garantir resultados justos e transparentes. Por isso que em 2020 a UNESCO criou um grupo de trabalho com 24 especialistas internacionais em IA para debater uma proposta de recomendação internacional que inspirasse os países-membros da ONU nesse exato momento quando marcos regulatórios nacionais estão sendo discutidos e aprovados no plano nacional.
Em amplo processo de consulta e participação, a UNESCO recebeu mais de 50.000 contribuições para o texto base da Recomendação que inclui disposições para garantir que os preconceitos do mundo real não sejam reproduzidos online. A recomendação será ainda aprovada oficialmente na Conferência-Geral da UNESCO em novembro de 2021, mas acreditamos que os países adotarão o texto na íntegra, assim como referendarão os seus dez princípios ligados à (1) proporcionalidade, (2) segurança, (3) justiça e não-discriminação, (4) sustentabilidade, (5) privacidade e proteção de dados, (6) supervisão humana, (7) transparência e explicações razoáveis, (8) responsabilização e accountability, (9) conscientização (awareness) e alfabetização midiática (media literacy), (9) governança global e colaboração multi-stakeholder.
Mais informações e conteúdo da UNESCO sobre o tema, entre eles vídeos e outros materiais, podem ser acessados em https://en.unesco.org/artificial-intelligence.
– Como a Unesco avalia as iniciativas para regulação de IA em andamento em vários países?
Acreditamos que os países estão avançando bem no sentido de debater esse tema em esferas legitimas e participativas, como no legislativo, fóruns especializados e em meios acadêmicos. Várias estratégias nacionais já começam a ser elaboradas e o Brasil lançou sua própria Estratégia Brasileira de Inteligência Artificial (EBIA) com diretrizes para guiar políticas públicas no desenvolvimento e no uso de inteligência artificial. A iniciativa é do Ministério da Ciência, Tecnologia e Inovações e foi instituída pela Portaria MCTI nº 4.617 (6 de abril de 2021) e contou – entre outros colaboradores – com a ajuda de consultores da UNESCO que ajudaram a destacar preocupações éticas no uso da IA. Além disso, começam a surgir importantes referenciais internacionais nessa discussão, como o do Centro Regional da UNESCO de Estudos para o Desenvolvimento da Sociedade da Informação (CETIC), mantido pelo Núcleo de Informação e Coordenação do Ponto BR (NIC.br) em São Paulo, e o novo Centro Internacional de Pesquisa sobre Inteligência Artificial da UNESCO (IRCAI), mantido pelo governo da Lituânia, um dos países que tem avançado bastante nessas discussões.
