“Devemos garantir que IA permaneça sob controle humano”, diz presidente da Microsoft

Brad Smith, presidente da Microsoft, faz apelo por controle humano sobre IA
Brad Smith, presidente da Microsoft, pede que IA fique sob controle humano (crédito: Microsoft/Divulgação)

O presidente da Microsoft, Brad Smith, fez um apelo para que a Inteligência Artificial (IA) permaneça sob controle humano. O executivo, em um texto publicado em um blog, nesta quinta-feira, 25, destacou que as empresas que desenvolvem soluções com essa tecnologia precisam partir do princípio da responsabilidade ao projetar novas aplicações.

“Quando nós da Microsoft adotamos nossos seis princípios éticos para IA em 2018, notamos que um princípio era a base para todo o resto – responsabilidade”, diz Smith, em trecho do artigo intitulado “Como governamos melhor a IA?”.

“Esta é a necessidade fundamental: garantir que as máquinas permaneçam sujeitas a uma supervisão eficaz das pessoas e que as pessoas que projetam e operam as máquinas sejam responsáveis perante todos os outros”, acrescenta o executivo.

A Microsoft é parceira da OpenAI, startup responsável pelo ChatGPT e suas versões mais poderosas, como o GPT-4. Desde o seu lançamento, em novembro do ano passado, o chatbot inteligente, exemplo mais famoso de IA generativa até aqui, foi incorporado em diversos serviços e plataformas da gigante de tecnologia.

Observando o desenvolvimento de outras aplicações com base em IA, Smith afirma, no mesmo texto, que “devemos sempre garantir que a IA permaneça sob controle humano”. Em sua avaliação, o controle sobre tais soluções tecnológicas deve ser “uma prioridade de primeira ordem para empresas de tecnologia e governos”.

Nesse sentido, o presidente da Microsoft argumenta que governos precisam editar regulações no que diz respeito à IA, de modo que empresas e desenvolvedores possam ser responsabilizados sobre seus atos.

“Em uma sociedade democrática, um de nossos princípios fundamentais é que ninguém está acima da lei. Nenhum governo está acima da lei. Nenhuma empresa está acima da lei e nenhum produto ou tecnologia deve estar acima da lei. Isso leva a uma conclusão crítica: as pessoas que projetam e operam sistemas de IA não podem ser responsabilizadas, a menos que suas decisões e ações estejam sujeitas ao Estado de Direito”, pontua Smith.

Para o executivo, a garantia de que a tecnologia fique permaneça sob controle humano “está no cerne do desenvolvimento da política de IA e do debate regulatório”.

Smith não é o primeiro executivo a manifestar preocupações com os avanços em IA. Em março, um grupo que inclui mais de mil especialistas em tecnologia, acadêmicos e empresários publicou uma carta pedindo uma pausa de seis meses no desenvolvimento de aplicações mais poderosas do que o GPT-4.

No mês seguinte, legisladores europeus fizeram um apelo para que uma eventual lei de IA aplicada no território da União Europeia (UE) seja “centrada no ser humano”. No Brasil, no início deste mês, o presidente do Senado, Rodrigo Pacheco, apresentou um projeto de lei para regular a tecnologia no Brasil. A proposta é bancada por uma comissão de juristas.

O post “Devemos garantir que IA permaneça sob controle humano”, diz presidente da Microsoft apareceu primeiro em TeleSíntese.