O desafio de equilibrar avanço tecnológico e ética

Deepfakes, sequestro de dados e algoritmos enviesados são alguns exemplos de problemas que estão no radar dos líderes de tecnologias digitais das organizações. Mas as inovações que preocupam também são importantes para os avanços nos negócios e é preciso saber como evitar problemas em torno da ética das tecnologias nas organizações.

Esse foi o tema do painel “Os principais pilares para evitar os pesadelos éticos das novas tecnologias”, no último dia do IT Forum Salvador, da IT Mídia, que contou com a participação de André Côrte, CIO da PicPay; Ione Coco, presidente da MCIO Brasil; e Andrea Barranha, CIO da Assurant, com mediação da jornalista Solange Calvo.

Para Andrea, a tecnologia é algo que tem a deixando apreensiva por conta do mau uso que pode ser feito. “Temos que ter cuidado por conta dos dados que usamos e porque por trás deles temos pessoas trabalhando. Precisamos garantir que não tenha vieses, crie estereótipos e reagrupe pessoas de forma que as discrimine”, reflete a CIO da seguradora Assurant.

Nessa mesma linha de raciocínio, a presidente da MCIO indica o que a deixa apavorada quando se trata de novas tecnologias digitais. “Temos visto o uso para manipulação de genes, diagnósticos não perfeitos e tecnologias de saúde. Para mim, a tecnologia só faz sentido se resolve problemas e faz bem para as pessoas”, sentencia.

Ione Coco, presidente da MCIO

O CIO da PicPay, no entanto, expande suas preocupações éticas sobre as tecnologias para um problema de ética mais amplo e que atinge a sociedade. “Antes, já tínhamos problemas éticos que não alcançavam grandes escalas. Mas, hoje, se alcança uma grande escalabilidade. Caminhamos para uma rota complexa”, alerta Côrte, que faz questão de apontar que apesar de ser pessimista em relação ao comportamento humano, entende que este problema está ligado a uma minoria.

Os líderes apontam, no entanto, que as preocupações não podem funcionar como bloqueios para o uso da tecnologia. “Ela está aí e a gente tem que testar e fazer investimento em inovação e ética”, aponta Andrea.

E a regulamentação?

Durante a sessão, os participantes trouxeram diversos exemplos de ferramentas relacionadas ao uso de dados, algoritmos, machine learning e Inteligência Artificial, capazes até mesmo de simular a voz da pessoa, construindo falas que não foram proferidas, na verdade, por ela. Criam polêmicas e situações que muitas vezes comprometem a sua imagem. É um dos casos em que a falta de regulamentação torna ainda mais inseguro nas redes sociais e aumenta as possibilidades de incidentes.

Embora os participantes acreditem que a regulamentação seja um instrumento importante para o ambiente tecnológico, eles apontam que a legislação não resolverá os problemas éticos envolvendo novas tecnologias. “A legislação é mais atrasada que a tecnologia”, aponta Ione. “Embora seja importante, vão dar um jeito de usar a tecnologia de modo perverso”, estima Côrte.

Como avançar com ética?

Diversas foram as soluções sugeridas pelos participantes para lidarem com o aspecto ético em seus ambientes organizacionais. Os cuidados na formação de equipe foram destacados por Ione. “Precisamos fazer análises éticas de quem contratamos”, defende a presidente da MCIO.

Para Andrea, é preciso investir em inovação e ter responsabilidade nas tomadas de decisões. “Investimos em um ambiente controlado, com alta governança, várias metodologias, equipe de compliance, máxima transparência dos processos para evitar que o quadro saia do controle.”

O tripé governança, segurança e vazamento foi apontado por Côrte como investimentos imprescindíveis na PicPay. Para garantir confiabilidade em um tipo de dado que é tão sensível, como dados financeiros dos clientes, é necessário contar com um conjunto de ferramentas, algoritmos e realização de testes. Além disso, ele explica que nos usos internos dos dados para criação da jornada dos clientes, a anonimização e a clusterização são estratégias para impedir vazamentos de dados.