IA e mensuração de impacto social dão match?

A Tide Social fez um dos posts mais legais e transparentes que li sobre IA e o setor de impacto social nos últimos tempos. Acho que traduziram um pouco do que é a angústia de todo mundo:

"No campo do impacto social, o desafio é duplo: como aproveitar o potencial da IA para amplificar causas urgentes, sem perder os princípios éticos que guiam esse trabalho? É possível automatizar sem apagar contextos? Usar dados sem invadir privacidades? Escalar narrativas sem perder o vínculo com os territórios?"

Uma recente pesquisa do Canal Sabiar mostrou que, nas organizações socioambientais, a IA é usada principalmente para comunicação (70%) e criação de conteúdo (75%), e menos aplicada em áreas como gestão financeira (10%) e captação de recursos (8%).

E na mensuração de impacto social destas e de outras organizações?! Como fica?

Em conversa com o pessoal da Move Social, discutimos que, no que tange a área de avaliação e pesquisa qualitativa, o uso parece ter se concentrado no processamento e análise de dados, além de algumas tarefas como revisão de textos e transcrições de entrevistas. 

Ao mergulhar no universo de softwares com IA para pesquisa qualitativa, o que se percebe é que realmente o objetivo de agregar a IA não é tornar os humanos obsoletos, mas trabalhar para que a profundidade da pesquisa qualitativa ganhe a escalabilidade da quantitativa, quando necessário. Isso implicaria, por exemplo, em ter IAs que podem conduzir entrevistas e moderar grupos focais. E, com isso, outras angústias surgem.

Enquanto ainda estamos lutando para aprofundar o olho no olho, enxergar as realidades sociais de forma profunda, de forma culturalmente responsável, de forma equânime, e nos conectarmos com elas; o medo, a meu ver, é de que a tecnologia nos atropele e apague ganhos pelos quais tanto lutamos há tanto tempo. 

O Rafael Zanatta da Data Privacy Brasil comentou, em entrevista pra Tide Social, sobre o viés com relação à representação da diversidade populacional nos bancos de dados que abastecem as IAs generativas:

“A comunicação produzida por IA não é uma comunicação dotada de experiência relacional. Isso é muito sensível quando falamos de populações indígenas, caiçaras ou quilombolas, que são sub-representadas em bancos de dados. O efeito que se pode produzir é uma ocidentalização padronizada pelas correlações entre dados, que ignora os sentidos e os valores de comunidades.” 

Quando penso em IA e medir impacto social, temo ainda outro risco de viés e de apagamento de vozes se não caminharmos com cautela. A área de impacto social e sua mensuração mantém intensa interlocução justamente com parcelas da população brasileira e mundial que muitas vezes se encontram mais distantes da tecnologia, da vida digital e de ferramentas como IA. Ainda duvida? Em um post recente da Timelens com fonte da TIC 2024, 42% da população brasileira nunca fez compras online, ainda que hoje o acesso à internet no Brasil caminhe para a universalização (85%). Como usar IA e mensurar o impacto social quando precisamos olhar para e dialogar com quem está fora da vida digital?

Além disso, é comum lidarmos com organizações sociais que carecem de recursos financeiros para arcar com o ainda custoso uso de softwares de IA para pesquisas e avaliações de impacto. Segundo a pesquisa do Canal Sabiar, apenas 1 em 4 organizações pagam por ferramentas de IA e a maior parte não passa de R$120/mês de investimento. Sem contar as capacidades técnicas para implementação de mais tecnologia nas organizações sem fins lucrativos. Para referência, 77% destas não recebiam doações pela internet e 42% ainda não possuíam site, segundo a TIC Osfil mais recente (2022) - e seria até possível pensar que se uma organização ainda não possui site, ela também não estaria longe de conseguir contar com uma estratégia de mensuração de impacto? Ainda assim, mais um risco de reforçar desigualdades, mais um viés.

A conta ainda parece não fechar. As desigualdades de alcance de impacto podem ser ainda mais ampliadas. E, portanto, a cautela, a transparência e a responsabilidade sempre indispensáveis, se tornam indispensáveis ainda mais. Vale lembrar que, ao desenhar uma avaliação de impacto, sempre se levará em conta a adequação de métodos, técnicas e ferramentas - tecnológicas ou não - para o tipo de intervenção avaliada, as características das organizações e dos usuários da avaliação. Pelo menos, é isso que corresponde a uma boa prática avaliativa.

Por outro lado, sabemos que não podemos nem devemos perder esse bonde. Se o fizermos, será só mais um degrau de desigualdade frente a outros setores para depois termos que correr atrás.

Será que a gente chega lá sem atropelar ninguém e sem ser atropelado?

Obs. 1: Existem ainda muitas outras nuances e aspectos que concernem IA e a área de impacto social, seja na sua mensuração ou não. Aqui, contemplei apenas parte do debate.

Obs. 2: Não foram usadas IA na escrita ou coleta de dados para esse post. 

------

Post da Tide Social: https://www.linkedin.com/pulse/ia-com-prop%C3%B3sito-%C3%A9tica-na-comunica%C3%A7%C3%A3o-para-impacto-tidesocial-hquvf/

Entrevista do Rafael Zanatta: https://tidesocial.com.br/entrevista-com-rafael-zanatta-codiretor-da-data-privacy-brasil/?utm_campaign=8_farol_-_newsletter_junho_envio_04_tiders&utm_medium=email&utm_source=RD+Station 

Post da Timelens: https://www.instagram.com/p/DLIUvdeu6M0/?img_index=2

TIC Osfil 2022: https://cetic.br/pt/pesquisa/osfil/indicadores/ 

Pesquisa Canal Sabiar: https://www.canalsabiar.com.br/iai/