O Conselho de Supervisão da Meta (Oversight Committee) defendeu em uma carta aberta que a inteligência artificial precisa de supervisão independente e externa na adoção de padrões industriais, regulação e coordenação internacional. O grupo ainda tenta se posicionar como uma opção para ser o supervisor de todo o setor de IA.
No documento divulgado nesta quarta-feira, 30, o conjunto de especialistas pede o mesmo empenho usado pelos líderes para desenvolver a tecnologia até aqui para promover proteções que garantam respeito aos Direitos Humanos e garantias de que as pessoas estarão salvas.
“A confiança do público em IA está em queda, à medida que mais publicações apontam os seus riscos atuais e em potencial. Agora é hora da indústria se juntar, ao lado de stakeholders e parlamentares, para construir mecanismos de governança significativos e pontes que tragam confiança”, diz trecho da carta.
Na abertura do texto, o conjunto de notáveis deixa claro que tal tecnologia não pode ser construída unilateralmente pela indústria de tecnologia.
Pilares da governança na IA
O Comitê, que tem o especialista Ronaldo Lemos entre seus conselheiros, sugere seis elementos essenciais para a governança efetiva e independente da IA:
- Transparência e fundamentação pública, com as decisões sendo publicadas periodicamente para jornalistas, pesquisadores e público em geral acompanharem as justificativas e as mudanças;
- Base nas normas e tratados internacionais de Direitos Humanos como padrão global da indústria de IA;
- Especialização multissetorial, com avaliações de segurança feitas por diversos especialistas independentes e de diferentes áreas, como cibersegurança, direitos humanos, proteção à criança e adolescente e privacidade;
- Independência financeira para órgãos de supervisão, com orçamento e controle próprios;
- Mandato e poder de investigação, com livre acesso às informações;
- Ampliação do escopo para ser o observador da indústria e não apenas da Meta, pois a restrição atual representa uma limitação do grupo.
A visão do Conselho é baseada em seis anos de trabalhos analisando sistemas e políticas internas da Meta, que resultaram em 273 decisões e 364 recomendações em temas relacionados à liberdade de expressão e aos direitos humanos. É importante recordar que este grupo foi criado depois do escândalo da Cambridge Analytica.
“Embora o conteúdo e a moderação de uma rede social sejam diferentes da governança de IA, há lições críticas que podem ser aplicadas para este momento e paralelos importantes que podem ser usados para os desafios das companhias de IA, em especial a vigilância e os princípios que serão necessários para continuar a análise e observância do desempenho da IA”, aponta o grupo em outro trecho.
