Nesta semana de SXSW, estou em Austin de olho em tudo o que o evento traz de melhor este ano. Aqui no blog, vou resumir algumas das discussões mais interessantes que estão rolando!

Uma das maiores preocupações quando pensamos no futuro pós-IA é com a segurança de nossos dados, principalmente dos biométricos – afinal, as deepfakes já são uma realidade. E é justamente para falar de segurança de dados e IA que a Dra. Joy Buolamwini esteve no palco da SXSW. Cientista do MIT Media Lab e fundadora da AJL (Algorithmic Justice League, ou “Liga da Justiça do Algoritmo” em tradução livre), Joy é uma das maiores especialistas do mundo em segurança digital, e ficou reconhecida mundialmente quando revelou os vieses que existiam nas ferramentas de reconhecimento facial mais utilizadas no mercado, provando com dados como elas não eram nada exatas na hora de reconhecer rostos negros.

A seguir, alguns dos principais pontos levantados pela pesquisadora durante a sua fala no evento.

Segurança em primeiro lugar

Um dos principais pontos defendidos por Joy é a questão da segurança dos dados biométricos, principalmente quando falamos do rosto das pessoas. Por isso, uma das principais batalhas da AJL é na ampliação dos direitos biométricos dos cidadãos. A cientista defende que cada pessoa tenha o direito de não ter os seus dados biométricos (especialmente a questão da face) coletados para uso em bancos de dados de IAs – e que possam pedir a exclusão desses dados caso a coleta já tenha sido efetuada. Além disso, as empresas que possuem esses dados precisam dar garantias de que eles não serão utilizados para a criação de deepfakes não autorizadas.

Para proteger o que ela chama de “direitos biométricos”, uma das soluções seria criar algum tipo de marcador que indique que um conteúdo foi feito com o auxílio de IA. Para ela, isso pode ajudar a deixar claro que vídeos ou arquivos de áudio não são gravações reais, mas criações ficcionais que se aproveitam das últimas tecnologias.

Contrariando outros palestrantes que passaram pelo mesmo palco, ela pede para que não sejamos tão otimistas assim com a aceitação das IA. Ela acredita que estamos todos muito focados em tudo de bom que ela pode fazer por nós, e o otimismo é tanto que estamos escolhendo não ver os diversos problemas que essa tecnologia ainda possui – e as consequências negativas que ela pode ter na sociedade caso não seja implementada com uma preocupação ética e social.

Os vieses nunca vão deixar de existir

Um dos maiores problemas existentes nas IA de hoje são os famosos “vieses”, que quando são aplicados em dispositivos de reconhecimento facial podem ser a receita para o desastre: ainda que eles tenham uma taxa de acerto incrível para rostos de homens brancos, ela vai diminuindo quando tentamos utilizar a mesma ferramenta em outros rostos, e podem chegar até mesmo a confundir uma mulher negra com um homem que nada tem a ver com ela. 

Foi justamente esta questão dos vieses um dos motivos para os departamentos de polícia dos EUA diminuírem o investimento neste tipo de ferramenta, mas Joy alerta que a “batalha” não está ganha: sim, menos policiais estão apostando no reconhecimento facial por IA, mas esta tecnologia está se tornando cada vez mais comum em hospitais, aeroportos, escolas e diversos ambientes públicos.

Para a Dra. Joy, a questão dos vieses é uma “não questão”: eles sempre vão existir, já que o único jeito de acabar com eles é acabar com os humanos. Por isso, ela não vê como o grande objetivo o desenvolvimento de uma “IA igualitária”, mas sim nos cientistas, analistas e todas as pessoas que desenvolvem e utilizam esses sistemas de IA serem mais honestos e específicos sobre quem se beneficia desses sistemas e quem deve carregar os fardos dele, pois só assim poderemos pensar em maneiras de reduzir qualquer dano causado pelo uso dessas ferramentas.

A fundadora da AJL também aponta que, hoje, as IA são ferramentas que, mesmo com a melhor das intenções, ainda não funcionam para todas as pessoas ou sociedades que existem no mundo, e é apenas largando o otimismo exacerbado – e sendo francos não só sobre as possibilidades, mas também sobre onde estão as falhas desses sistemas – que poderemos criar novas IA mais robustas e que não sirvam para apenas uma parcela da população.