Open Knowledge Brasil é uma das organizações que assinam a nota técnica da sociedade civil por maior participação, inclusão e transparência na regulação da Inteligência Artificial no Brasil. A iniciativa parte da Associação Brasileira de ONGs (Abong), Ação Educativa e Instituto Brasileiro de Análises Sociais e Econômicas (Ibase).
Veja a nota na íntegra:
Sociedade civil exige maior participação e transparência na regulação de Inteligência Artificial no Brasil, destacando a necessidade de inclusão de organizações do campo de defesa e promoção de direitos humanos, representatividade multissetorial, e compromissos com diversidade e igualdade
O aumento da capacidade da Inteligência Artificial, em sentido amplo, tem sido apontado como uma das revoluções tecnológicas e sociais da contemporaneidade. Ainda que seja um termo amplo e disputado, consensos multissetoriais têm levado o conceito a ser expresso em políticas públicas ou propostas legislativas como “sistema baseado em máquina que, com graus diferentes de autonomia e para objetivos explícitos ou implícitos, infere, a partir de um conjunto de dados ou informações que recebe, como gerar resultados, em especial, previsão, conteúdo, recomendação ou decisão que possa influenciar o ambiente virtual, físico ou real”.
A capacidade disruptiva da tecnologia em gerar efeitos em qualquer esfera da vida humana gera também preocupações para a defesa de direitos e promoção da igualdade. Entre as principais questões já mapeadas estão: concentração econômica e de poder em poucas empresas desenvolvedoras; eliminação ou precarização de empregos; potencial discriminatório quanto a grupos vulnerabilizados, ligados a históricos de opressão racial, de gênero e outras; impactos ambientais devido a demandas energéticas e de recursos naturais; e outros danos de diferentes ordens, inclusive quanto a confiança epistêmica e integridade informacional.
Formuladores de legislação e políticas públicas no Brasil tem discutido a matéria em diferentes espaços, com especial destaque à atual Comissão Temporária de Inteligência Artificial no Senado, presidida pelo senador Carlos Viana e relatada pelo senador Eduardo Gomes e a formulação do Plano Brasileiro de Inteligência Artificial, em desenvolvimento pelo Ministério da Ciência, Tecnologia e Inovação. As duas iniciativas prometem impactos para o desenvolvimento, fomento, uso ético e responsável da inteligência artificial.
Com vistas de alcançar o objetivo de estabelecer as bases para que os avanços atuais dessa tecnologia, que tem sido estudada e desenvolvida já há oito décadas, maximizem seus benefícios sociais ligados a geração de emprego e renda, promoção de igualdade, acesso à informação, proteção ao meio ambiente e outros valores sociais centralizando a pessoa humana, nós, da sociedade civil, consideramos que a participação social e popular é absolutamente imprescindível. Consideramos que, se desejamos uma sociedade igualitária, participativa, sustentável, baseada na dignidade humana, com indivíduos livres e emancipados, devemos construir modelos democráticos e configurações institucionais que expressem esse ideal.
Entretanto, os diferentes ciclos de debate legislativo recentes sobre inteligência artificial não parecem ter alcançado mecanismos sólidos para a participação social. Durante a formulação do PL 2338 pela Comissão de Juristas responsável por subsidiar elaboração de substitutivo sobre inteligência artificial (Fevereiro a Dezembro de 2022), a sociedade civil organizada apontou que sua composição foi marcada pela ausência de juristas negras e negros ou indígenas, como também não levou em conta a representatividade regional ou a representatividade de interesses afetados pelos produtos envolvendo IA. O problema foi parcialmente resolvido pela inclusão de amplo e mais diverso rol de representantes multissetoriais durante as audiências públicas, mas críticas à não-adoção de recomendações da sociedade civil como o banimento do reconhecimento facial também foram apontadas.
Na atual Comissão Temporária de Inteligência Artificial no Senado os problemas de representatividade multissetorial, demográfica ou epistêmica também se fazem presentes e a sociedade civil apontou ainda a “opacidade a respeito dos trâmites e andamentos internos da Comissão, já que, por exemplo, foi publicizada a realização de audiência pública apenas na semana de sua realização, sem a devida transparência e a publicidade – preceitos norteadores na gestão pública sobre os nomes dos participantes e como eles estão sendo escolhidos”.
Acreditamos que tais lacunas trazem malefícios diretos e indiretos à produção legislativa inclusiva e sólida, em diversas camadas da proposição atual. Enfatizaremos aqui em especial o próprio desenho de participação social que consta ainda de forma muito tímida na atual versão do relatório preliminar e estão sob ameaça considerando a não-votação da proposta no último mês de Julho.
A participação social na ideação, desenvolvimento, regulação e controle da inteligência artificial é apontada como essencial por diferentes organismos internacionais e multissetoriais. O documento Recomendação sobre a Ética da Inteligência Artificial (2021), desenvolvido pela UNESCO, estabelece como valor Garantir a Diversidade e Inclusão e recomenda que “ao longo do ciclo de vida dos sistemas de IA, devem ser garantidos respeito, proteção e promoção da diversidade e da inclusão, de acordo com o direito internacional, incluindo as leis relativas a direitos humanos. Isso pode ser feito promovendo a participação ativa de todos os indivíduos ou grupos”.
Em publicação recente do AI Advisory Group da Nações Unidas, Governing AI for Humanity, afirmou-se que “apesar de seu potencial, muitos povos do mundo todo não estão ainda em posição de acessar e usar IA de modo que melhore significativamente suas vidas. Alcançar o potencial da IA e permitir participação ampla em seu desenvolvimento, implementação e uso é crítico para que se possa usá-la para gerar soluções sustentáveis a desafios globais”.
Em especial sobre impacto em grupos vulnerabilizados, a relatoria especial às Nações Unidas intitulada de Racial discrimination and emerging digital technologies: a human rights analysis (2020) estabelece que os mecanismos de avaliação de impacto algorítmico “devem incorporar oportunidades sólidas para co-design e co-implementação com representantes de grupos racialmente ou etnicamente marginalizados. Uma abordagem puramente voluntária a avaliações de impacto algorítmico na igualdade não são suficientes; uma abordagem vinculativa é essencial”.
Assim sendo, nós, da sociedade civil, recomendamos, portanto:
a) Inclusão explícita de Organizações da Sociedade Civil no Sistema Nacional de Regulação e Governança de Inteligência Artificial (SIA) – A sociedade civil organizada é essencial para garantir os objetivos regulatórios, sancionatórios e normativos da entidade. O desenvolvimento de normas vinculantes ligadas a requisitos e procedimentos para certificação do desenvolvimento e utilização de sistemas de alto risco e procedimentos e requisitos para elaboração da avaliação de impacto algorítmico requerem a participação da sociedade civil organizada e independente dos interesses dos demais setores envolvidos.
b) Inclusão explícita de Organizações da Sociedade Civil no Conselho de Cooperação Regulatória Permanente (CRIA) – Consideramos que a participação da sociedade civil no CRIA é essencial para reforçar o caráter democrático do conselho, em especial em sua capacidade de identificar impactos conhecidos e previsíveis no direito ao trabalho e emprego, impactos ambientais e discriminação negativa colaborando com as trocas positivas na relação multissetorial.
c) Multidisciplinaridade no Comitê de Especialistas e Cientistas de Inteligência
Artificial/CECIA – Considerando o impacto da Inteligência Artificial em todas esferas da vida, conclui-se que o CECIA deve também refletir essa ubiquidade, incluindo representação de especialistas e cientistas das áreas das Ciências Humanas, Sociais e Artísticas.
d) Compromisso com a multissetorialidade e multidisciplinaridade nos debates legislativos. Por fim, recomendamos aos legisladores um compromisso de escuta ativa e inclusão da sociedade civil em modos que representem plenamente a multissetorialidade e multidisciplinaridade necessárias.
Subscrevem a nota:
Organizações e Entidades
Abong – Associação Brasileira de ONGs
Ação Educativa – Assessoria, Pesquisa e Informação
Ibase – Instituto Brasileiro de Análises Sociais e Econômicas
Desvelar
ABGLT – Associação Brasileira de Lésbicas, Gays, Bissexuais, Travestis, Transexuais e Intersexos
Aqualtune Lab – Instituto de Estudos sobre Tecnologias e Direito
Articulação Brasileira de Lésbicas ABL
AS-PTA Agricultura Familiar e Agroecologia
Associação Nacional de travestis e transexuais (ANTRA)
CECIP Centro de Criação de Imagem Popular
Centro de Desenvolvimento Agroecológico Sabiá (Centro Sabiá)
Centro de Desenvolvimento e Cidadania (CDC)
Centro de Estudos e Defesa do Negro no Pará (CEDENPA)
Centro Popular de Comunicação e Audiovisual (CPA Amazônia)
Coletivo de Pesquisa e Ativismo de Rondônia sobre Tecnologia, Estado e Sociedade (C-PARTES)
ELO Ligação e Organização
FJUNN – Frente de Juristas Negras e Negros
FLD – Fundação Luterana de Diaconia
Fórum Pernambucano de Comunicação – FOPECOM
Grupo Ambientalista da Bahia – GAMBA
Instituto Sumaúma
Intervozes – Coletivo Brasil de Comunicação Social
LAPPIS – Laboratório de Pesquisa, Produção e Inovação em Software – Universidade de Brasília (UnB)
LBL – Liga Brasileira de Lésbicas e Mulheres Bissexuais
Liga Colaborativa dos Povos – LCdP
Marialab
MNU
Núcleo Reflexos de Palmares – UNIFESP-BS
Observatório de gênero, Raça e Territorialidade na Ciência (Gerate)
Open Knowledge Brasil
Oxfam Brasil
Rede de Jornalistas pretos pela Diversidade na Comunicação (Rede JP)
Rede Não Bata, Eduque
Rede Sementes da Agroecologia – ReSA
Rede Transfeminista de Cuidados Digitais (RTCD)
Viração Educomunicação
Assinaturas Individuais (Nome e Afiliação ou Cargo)
Adelita Chaves Maia – Associação Escola Família Agrícola Jaguaribana (AEFAJA)
Ana Leticia de Moraes Ribeiro – Jornalista na Rede Não Bata, Eduque
Ana Maria dos Santos Rodrigues – Pedagoga, Mestranda em Tecnologias da Inteligência e Design Digital – PUC-SP
Anicely Santos – Mestranda em Engenharia de Computação pela Universidade de Pernambuco (UPE)
Camila Lima – Jornalista e Mestranda em Cultura e Sociedade ,UFMA
Cintia Oliveira – Assistente Administrativa na Ação Educativa
Danilo Castro – Instituto Veredas
Deivison Faustino – Núcleo Reflexos de Palmares – Universidade Federal de São Paulo
Eduardo Sarmento – Antropólogo, pesquisador e gestor cultural.
Emilly Carvalho Espildora – Pesquisadora Rede Conhecimento Social
Fátima Nascimento – Advogada, mestre em políticas sociais e cidadania, consultora de OSC na área de conformidade e gestão.
Fernando Nascimento – Associação Cidade Escola Aprendiz
Gustavo Souza – Especialista em Estratégia de Inteligência Artificial
Haydée Svab – Diretora Executiva da Open Knowledge Brasil
Horrara Moreira – Mestranda em Direito da Regulação na Fundação Getúlio Vargas
Iêda Valeriano – Centro de Desenvolvimento e Cidadania
Janaina Uemura – Assessora de projetos na Ação Educativa
Joana Pires – Mestre em Comunicação pela Universidade Federal de Pernambuco e coordenadora de Comunicação na Ação Educativa
Juliana Valentim – Doutoranda em Mídias Digitais na Universidade do Porto
Juliane Cintra de Oliveira – Mestre em Direitos Humanos pela Universidade de São Paulo e Coordenadora de Projetos na Ação Educativa
Kim Camargo – pesquisador – Ibase
Luiza Morelli Damigo – AS-PTA Agricultura Familiar e Agroecologia e Coletiva de Comunicação da Articulação Nacional de Agroecologia (ANA) e Rede Sementes da Agroecologia
NUAS – Núcleo de Advocacy em Saúde
Paula Guedes – Doutoranda em Direito e IA na Universidade Católica Portuguesa
Rafael Rodrigues Freire – coordenador Grupo Ambientalista da Bahia, colaborador Liga Colaborativa dos Povos
Raquel Lucena Paiva – doutoranda em ciênias sociais / Ufes – Núcleo de pesquisa: Lapaj/Organon
Renata Nascimento da Silva – Pesquisadora da Universidade Federal de Viçosa
Rodrigo Pinheiro – FOAESP
Rosa Sampaio- Jornalista e relações públicas, Centro de Desenvolvimento Agroecológico Sabiá, Coletiva de Comunicação da Articulação Nacional de Agroecologia (ANA) e Fórum Pernambucano de Comunicação (FOPECOM)
Solange Maria da Silva – Extensionista do IFSP
Taís Oliveira – Doutoranda em Ciências Humanas e Sociais na Universidade Federal do ABC
Tarcizio Silva – Senior Tech Policy Fellow, Mozilla Foundation
Thamires Orefice – Mestranda em Direitos Humanos pela PUC SP e professora na Universidade Zumbi dos Palmares
Tito-Francisco Henrique de Oliveira, psicólogo, UMC, pós PUC-SP, pós UNICAMP, autor do “Uma Mensagem pra Você” e do EducAções.
Nota publicada originalmente no site da Abong, confira atualizações.
