Tecnologia para filtros em redes sociais reforça padrão racista

Fonte: Folha de S. Paulo

Por limitações de programa, efeitos podem até desfocar rostos de pessoas negras em selfies

As redes sociais estão tomadas por imagens de gente com cores diferentes de cabelo e maquiagem divertida. Os mesmos filtros que permitem isso borram rostos de pessoas negras e esfumam cabelos crespos.

O problema começa na plataforma de desenvolvimento dos filtros, Spark AR Studio, e continua no processo de elaboração dos efeitos.

Criado pelo Facebook, empresa detentora do Instagram, o Spark AR permite gerar efeitos de realidade aumentada. Inclui uma galeria de modelos para que o usuário faça seu filtro, e também possibilita que se crie um efeito a partir do zero.

O software apresenta limitações que têm impacto no uso dos filtros por pessoas negras, diz Joyce Soares, 24, designer e analista em tendências da Globo.

Um caso recorrente é quando o rosto fica acinzentado com a aplicação do filtro. O fenômeno ocorre no uso da ferramenta “Skin Smoothing Texture” durante a criação de efeitos que simulam maquiagem. O recurso tem a função de tirar o aspecto artificial da pele.

Outro erro não percebido por quem tem cabelos lisos são os filtros que mudam o fundo da imagem ou a cor do cabelo. A tecnologia não segue o movimento de fios crespos. Resultado: partes do rosto e do cabelo desfocadas.

Segundo Carla Vieira, 23, engenheira de software, isso ocorre porque o programa usa a visão computacional para criar realidade aumentada, o efeito 3D.

Essa inteligência artificial é gerada por algoritmos de leitura de imagem, treinados a partir de uma base de dados. O banco (“dataset”) tem milhares de imagens. Quanto mais fotos o programa lê, mais as reconhece.

‘‘Esses treinamentos favorecem a manutenção de preconceitos’’, diz Carla, que pesquisa inteligência artificial na USP e coordena a perifaCode, comunidade de programação voltada a pessoas de origem periférica. “Falta representatividade de rostos negros nos datasets. Não tem diversidade, a maioria das imagens é gerada nos EUA e na Grã-Bretanha.”

O Facebook informou que os modelos de visão computacional são treinados com métodos de aprendizagem supervisionados ou semi, e que utilizam amplo conjunto de dados para garantir filtros que funcionem em diferentes tons de pele, ambientes, iluminação e dispositivos.

Mas confirmou falhas. A ferramenta apresentou dificuldade maior em situações de baixo contraste entre o usuário e o fundo, segundo o porta-voz.

“Identificamos uma falha que afeta o desempenho e a precisão da ferramenta de segmentação, que permite identificar e separar o fundo da imagem e a pessoa que está usando o filtro. Já encontramos a solução para este problema e iremos apresentá-la muito em breve.”

Para Silvana Bahia, coordenadora do Pretalab, projeto que incentiva a produção de tecnologia por mulheres negras e indígenas, o nó da discussão ‘‘é o porquê de separarmos a questão social da tecnologia”, diz.

“Usamos algoritmos para tentar prever o futuro, mas com dados do passado, onde o negro está estereotipado. Como esse futuro vai ser mais inclusivo se olhamos para dados em que estereótipos são repetidos?”.

Em 2019, o Spark AR chegou a proibir o desenvolvimento de filtros de modificação facial, que simulam procedimentos estéticos. Mas recuou da decisão após mobilização dos criadores.

O estudante e criador de filtros Natanael Lesiak, 21, de Duque de Caxias (RJ), afirma que “a maioria dos criadores do Instagram são brancos e criam filtros para eles e o público deles. Deveria haver uma reeducação”.

Para o artista digital Igor Muniz, 21, a questão não é o Spark AR. “Se o criador escolhe um tom de blush que só funciona em pele branca, o erro é dele.” Ele sugere que criadores disponibilizem no Instagram variações do mesmo filtro para atender pessoas negras. “O senso de inclusão tem que ser do criador’’.

Autora da monografia “Vieses da branquitude como um instrumento de embelezamento”, Joyce Soares também analisa o fenômeno “Snapchat dysmorphia”, atribuído a mulheres que levam fotos com filtros como referência para cirurgiões plásticos.

Após dois anos de pesquisa, ela e Igor Muniz desenvolveram um protótipo de filtro que valoriza a pele negra. O primeiro passo foi pedir vídeos de rostos a amigos e conhecidos para criar uma métrica capaz de considerar várias tonalidades da pele negra.

Fora do Spark AR, eles usaram a programação e chegaram a um tom-base para um filtro responsivo, que identifica a cor de pele do usuário e adapta o efeito.

Grandes empresas de tecnologia se movimentam. Funcionários do Snapchat desenvolvem uma câmera para que a pele negra não fique turva ou sombreada ao ser fotografada com flash ou em ambientes de pouca luz.

Já o Google anunciou que vai incluir configuração de câmera nos próximos smartphones da linha Pixel para melhorar a precisão ao fotografar tons escuros de pele.

​Para Carla Vieira, a solução passa por incluir pessoas negras em posições de poder, para que mudem o sistema de dentro para fora. ‘‘Acredito nisso: microrrevoluções”.