7 perguntas-chave que os CIOs precisam responder antes de se comprometerem com a IA generativa

Algumas empresas utilizam a IA generativa para escrever código, outras para criar textos de marketing ou alimentar chatbots. E há outras, como a SmileDirectClub, que utilizam a tecnologia para criar imagens com o objetivo de responder à pergunta de como atender melhor seus clientes.

A SmileDirectClub, empresa de teleodontologia com sede em Nashville, usa IA generativa para criar dentes. Ou, mais especificamente, para ajudar as pessoas a entender como seus dentes podem ser corrigidos.

“Temos uma plataforma chamada SmileMaker”, diz o CIO Justin Skinner. “Tiramos uma foto dos seus dentes com o seu celular e geramos uma representação em modelo 3D. Com a ajuda da IA, podemos projetar como seria um plano de alinhamento dos dentes, quanto tempo levaria e como ficaria o resultado final”.

As plataformas existentes de IA generativa, como o ChatGPT, da OpenAI, o Bard, do Google, ou o Stable Diffusion, não são treinadas em imagens 3D de dentes. Além disso, nenhuma delas estava disponível quando a SmileDirectClub começou a utilizar a tecnologia.

A SmileDirectClub construiu sua própria IA generativa, utilizando seu próprio conjunto de dados, em seus próprios servidores, em conformidade com as regulamentações HIPAA, GDPR e outras.

A empresa iniciou o projeto há três anos com um parceiro externo. Quando isso não deu certo, contratou sua própria equipe para construir os modelos proprietários necessários.

“Não há nada parecido no mercado com o nível de precisão que precisamos”, diz Skinner. “Os dentes são muito complicados. Não há muitas marcas distintas, então obter um modelo 3D preciso do seu telefone é uma tarefa difícil”.

A primeira geração da ferramenta foi lançada em novembro do ano passado na Austrália e em maio deste ano nos Estados Unidos, e cerca de 100.000 pessoas já a utilizaram. A próxima versão incluirá uma projeção fotorrealista de como os novos dentes ficarão.

Atualmente, a ferramenta oferece apenas um plano de tratamento preliminar para os clientes, segundo Skinner. Ainda é necessário que eles consultem um dentista ou usem um kit de impressão em casa para obter uma impressão em alta definição. Isso também pode mudar no futuro à medida que a tecnologia melhora.

Mas essa não é a única maneira pela qual a SmileDirectClub busca aproveitar a IA generativa.

“Estamos explorando, por razões de redução de custos e eficiência, o uso de ferramentas como o ChatGPT e o Bard, e estamos ansiosos para experimentar o Microsoft Copilot”, diz Skinner.

A empresa dele não está sozinha.

De acordo com uma pesquisa recente com executivos seniores conduzida pela The Harris Poll, em nome da Insight Enterprises, 39% das empresas já estabeleceram políticas ou estratégias relacionadas à IA generativa, e 42% estão em processo de desenvolvimento delas. Outros 17% planejam fazê-lo, mas ainda não começaram. Apenas 1% das empresas não têm planos de desenvolver estratégias para IA generativa.

Além de como a SmileDirectClub responde à pergunta crítica sobre atendimento ao cliente, aqui estão outras sete perguntas que os CIOs precisam responder para ajudá-los a formular estratégias ou políticas relacionadas à IA generativa.

Onde está o valor para o negócio?

De acordo com a pesquisa da Harris Poll, 72% dos executivos afirmam que planejam adotar tecnologias de IA generativa nos próximos três anos para melhorar a produtividade dos funcionários. E 66% dizem que planejam usá-la para melhorar o atendimento ao cliente. Além disso, 53% afirmam que ela ajudará em pesquisa e desenvolvimento, e 50% com a automação de desenvolvimento ou testes de software.

E isso é apenas a ponta do iceberg em termos de casos de uso corporativo da IA generativa, e está mudando rapidamente.

Os CIOs precisam se esforçar para acompanhar os desenvolvimentos, diz Skinner. Mais importante ainda, os CIOs precisam entender como as possibilidades da IA generativa, em geral, se aplicam especificamente ao seu negócio.

“Essa é a primeira pergunta”, ele diz. “Eu realmente entendo essas coisas? E entendo profundamente como aplicá-las ao meu negócio para obter valor?”

Dado o ritmo acelerado das mudanças, entender a IA generativa significa experimentar com ela e fazê-lo em escala.

Essa é a abordagem que a Insight Enterprises está adotando. O integrador de soluções sediado em Tempe atualmente possui 10.000 funcionários usando ferramentas de IA generativa e compartilhando suas experiências para que a empresa possa entender tanto os pontos positivos quanto os pontos negativos.

“É uma das maiores implementações de IA generativa que eu conheço”, diz David McCurdy, Arquiteto-Chefe de empresas e CTO da Insight. “Estou em uma missão para entender o que o modelo faz bem e o que o modelo não faz bem”.

A novidade da IA generativa pode ser legal, ele diz, mas não é particularmente útil.

“Mas nos sentamos e alimentamos contratos e fizemos perguntas sutis sobre eles: onde estão as responsabilidades, onde estão os riscos?”, ele diz. “Isso é realmente importante, desmontando o contrato, e foi 100% eficaz. Este será um caso de uso em todo o mundo”.

Outro funcionário, um trabalhador de armazém, teve a ideia de usar a IA generativa para ajudá-lo a escrever scripts para o SAP.

“Ele não precisou abrir um chamado ou perguntar a ninguém como fazer isso”, diz McCurdy. “É esse tipo de coisa que eu estou buscando, e é incrível”.

A pergunta número um que todo CIO deve fazer a si mesmo é como sua empresa planeja usar a IA generativa nos próximos um ou dois anos, ele diz. “Aqueles que dizem que isso não está em discussão, estão cometendo um grande erro”, ele acrescenta. “Algumas pessoas acham que vão esperar para ver, mas vão perder produtividade. Seus conselhos de administração, seus CEOs vão perguntar: ‘Por que outras empresas estão adorando essa tecnologia? Por que nós não estamos?’”

No entanto, encontrar oportunidades em que a IA generativa possa fornecer valor comercial no nível de precisão que ela é capaz de oferecer hoje é apenas uma pequena parte do quadro geral.

Qual é a nossa estratégia de implantação?

Empresas que desejam entrar no jogo da IA generativa têm uma ampla variedade de maneiras de fazer isso.

Elas podem ajustar e executar seus próprios modelos, por exemplo. A cada semana, novos modelos de código aberto estão se tornando disponíveis, cada um mais capaz que o anterior. E fornecedores de dados e IA estão oferecendo alternativas comerciais que podem ser executadas no local ou em nuvens privadas.

Além disso, fornecedores tradicionais de SaaS como Salesforce e, é claro, Microsoft e Google, estão incorporando IA generativa em todos os seus serviços. Esses modelos serão personalizados para casos de uso específicos de negócios e mantidos por fornecedores que já sabem como gerenciar privacidade e riscos.

Por fim, existem os modelos públicos, como o ChatGPT, que empresas menores podem acessar diretamente por meio de suas interfaces públicas, e empresas maiores podem usar por meio de nuvens privadas seguras. A Insight, por exemplo, utiliza o GPT 3.5 Turbo e o GPT 4.0 da OpenAI hospedados em uma nuvem privada Azure.

Outra opção para empresas com requisitos muito específicos, mas sem interesse em treinar seus próprios modelos, é usar algo como o ChatGPT e depois fornecer acesso aos dados da empresa por meio de um banco de dados de vetores.

“O valor está em usar modelos existentes e combinar seus próprios dados a eles”, diz McCurdy. “É aí que a inovação e a produtividade vão acontecer de verdade”.

Isso é equivalente em termos de funcionalidade a colar documentos no ChatGPT para análise antes de fazer suas perguntas, exceto que os documentos não precisarão ser colados todas as vezes. Por exemplo, a Insight carregou todos os artigos técnicos que já escreveu, todas as transcrições de entrevistas em um banco de dados de vetores para que a IA gerativa possa consultá-los.

Podemos manter nossos dados, clientes e funcionários seguros?

De acordo com um relatório da PricewaterhouseCoopers de maio, quase todos os líderes empresariais afirmam que sua empresa está priorizando pelo menos uma iniciativa relacionada a sistemas de IA em curto prazo.

No entanto, apenas 35% dos executivos dizem que sua empresa se concentrará na melhoria da governança dos sistemas de IA nos próximos 12 meses, e apenas 32% dos profissionais de risco dizem que estão envolvidos na fase de planejamento e estratégia de aplicação de IA gerativa.

Uma pesquisa semelhante com executivos seniores divulgada pela KPMG, divulgada em abril, mostrou que apenas 6% das organizações têm uma equipe dedicada para avaliar o risco da IA generativa e implementar estratégias de migração de risco.

E apenas 5% possuem um programa maduro de governança responsável de IA em vigor, embora 19% estejam trabalhando em um e quase metade afirme que planeja criar um.

Isso é particularmente importante para empresas que utilizam plataformas externas de IA gerativa em vez de construir as suas próprias do zero.

Por exemplo, Skinner, da SmileDirectClub, também está considerando plataformas como o ChatGPT pelos potenciais benefícios de produtividade, mas está preocupado com os riscos de dados e privacidade.

“É importante entender como os dados são protegidos antes de se envolver de cabeça”, diz ele.

A empresa está prestes a lançar uma campanha interna de comunicação e educação para ajudar os funcionários a entender o que está acontecendo, assim como os benefícios e limitações da IA gerativa.

“Você deve garantir que esteja estabelecendo políticas de segurança em sua empresa e que os membros da sua equipe saibam quais são as políticas”, diz ele. “Atualmente, nossa política é que você não pode enviar dados de clientes para essas plataformas”.

A empresa também está aguardando para ver quais opções de nível empresarial estarão disponíveis.

“O Microsoft Copilot, devido à integração com o Office 365, provavelmente será utilizado em larga escala primeiro”, diz ele.

De acordo com Matt Barrington, líder de tecnologias emergentes na Ernst & Young Americas, cerca de metade das empresas com as quais ele conversa estão preocupadas o suficiente com os riscos potenciais para adotar uma abordagem de bloqueio total em relação ao ChatGPT e plataformas similares.

“Até que possamos entendê-lo, estamos bloqueando”, diz ele.

A outra metade está procurando ver como podem construir o framework adequado para treinar e capacitar as pessoas.

“Você precisa ser cauteloso, mas também precisa capacitar”, diz ele.

Além disso, mesmo os 50% que estão contendo o uso do ChatGPT, ainda assim seus colaboradores o utilizam, acrescenta ele. “O trem já partiu”, diz. “O poder dessa ferramenta é tão grande que é difícil controlá-la. É como os primeiros dias da computação em nuvem”.

Como podemos nos proteger contra o viés?

Lidar com viés já é difícil o suficiente em sistemas de machine learning tradicionais, nos quais uma empresa trabalha com um conjunto de dados claramente definido. No entanto, com modelos fundamentais grandes, como os usados para geração de código, texto ou imagem, esse conjunto de dados de treinamento pode ser completamente desconhecido. Além disso, as formas como os modelos aprendem são extremamente opacas, até mesmo os pesquisadores que os desenvolveram ainda não entendem completamente como tudo acontece. Isso é algo que preocupa particularmente os reguladores.

“A União Europeia está liderando o caminho”, diz Barrington, da EY. “Eles têm uma proposta de Lei de IA, e Sam Altman, da OpenAI, está pedindo regulamentações rigorosas. Ainda há muito por vir”,

E Altman não é o único. De acordo com uma pesquisa do Boston Consulting Group realizada em junho com quase 13.000 líderes empresariais, gerentes e funcionários da linha de frente, 79% apoiam a regulamentação da IA.

Quanto mais sensíveis forem os dados que uma empresa coleta, mais cautelosa ela precisa ser, diz ele.

“Somos otimistas em relação ao impacto que a IA terá nos negócios, mas igualmente cautelosos em relação à implementação responsável e ética”, diz ele. “Uma das coisas em que nos concentraremos fortemente é o uso responsável da IA”.

Se uma empresa assumir a liderança em aprender não apenas como alavancar a IA generativa de forma eficaz, mas também para garantir precisão, controle e uso responsável, ela terá uma vantagem, diz ele, mesmo que a tecnologia e os regulamentos continuem mudando.

É por isso que a empresa de transcrição Rev está levando seu tempo antes de adicionar a IA gerativa à sua suíte de ferramentas oferecidas.

A empresa, que está no mercado há quase 12 anos, começou oferecendo serviços de transcrição realizados por seres humanos e gradualmente adicionou ferramentas de IA para complementar seus trabalhadores humanos.

Agora, a empresa está explorando o uso da IA gerativa para criar automaticamente resumos de reuniões.

“Estamos dedicando um pouco mais de tempo para fazer uma diligência adequada e garantir que essas coisas funcionem da maneira que queremos”, diz Migüel Jetté, Chefe de P&D e IA da Rev.

Os resumos não são tão arriscados quanto outras aplicações de IA generativa, acrescenta. “É um espaço de problema bem definido e é fácil garantir que o modelo se comporte bem. Não é algo completamente aberto como gerar qualquer tipo de imagem a partir de um prompt, mas você ainda precisa de proteções”.

Isso inclui garantir que o modelo seja justo, imparcial, explicável, responsável e cumpra os requisitos de privacidade, diz ele.

“Também temos testes alfa bastante rigorosos com alguns de nossos maiores usuários para garantir que nosso produto esteja se comportando da maneira que prevíamos”, diz ele. “O uso que temos agora é bastante restrito, a ponto de não me preocupar muito com o mau comportamento do modelo generativo”.

Com quem podemos fazer parcerias?

Para a maioria das empresas, a forma mais eficaz de implantar a IA gerativa será contar com parceiros confiáveis, diz a Analista Michele Goetz, da Forrester Research.

“Essa é a maneira mais fácil”, diz ela. “Está incorporado”.

Provavelmente levará pelo menos três anos antes que as empresas comecem a implementar suas próprias capacidades de IA gerativa, afirma Goetz. Até lá, as empresas estarão experimentando a tecnologia em zonas seguras, fazendo experimentos, enquanto confiam em parceiros fornecedores existentes para implantações imediatas.

No entanto, as empresas ainda terão que realizar a devida diligência, diz ela.

“Os fornecedores dizem que estão executando a IA como um serviço e que ela está isolada”, diz ela. “Mas ainda pode haver treinamento do modelo e pode haver conhecimento e propriedade intelectual sendo transferidos para o modelo fundamental”.

Por exemplo, se um funcionário fizer o upload de um documento confidencial para revisão e a IA for treinada com base nessa interação, ela poderá aprender o conteúdo desse documento e usar esse conhecimento para responder a perguntas de usuários de outras empresas, vazando informações confidenciais.

Existem também outras perguntas que os CIOs podem querer fazer aos seus fornecedores, como a origem dos dados de treinamento originais e como eles são validados e governados. Além disso, como o modelo é atualizado e como as fontes de dados são gerenciadas ao longo do tempo.

“Os CIOs precisam confiar que o fornecedor está fazendo a coisa certa”, diz ela. “E é por isso que existem muitas organizações que ainda não estão prontas para permitir a IA gerativa mais recente em suas empresas em áreas que elas não podem controlar efetivamente”. Isso é particularmente verdadeiro em áreas fortemente regulamentadas, diz ela.

Quanto isso vai custar?

Os custos da IA incorporada são relativamente diretos. Empresas de software corporativo que adicionam IA gerativa às suas ferramentas – empresas como Microsoft, Google, Adobe e Salesforce – tornam os preços relativamente claros. No entanto, quando as empresas começam a construir sua própria IA gerativa, a situação se torna muito mais complicada.

No meio de toda a empolgação com a IA gerativa, as empresas às vezes perdem de vista o fato de que modelos de linguagem grandes podem exigir poder computacional muito alto.

“As pessoas querem começar e ver resultados, mas não pensaram nas implicações de fazê-lo em escala”, diz Ruben Schaubroeck, Sócio Sênior da McKinsey & Company. “Elas não querem usar o ChatGPT público devido a questões de privacidade, segurança e outros motivos. E querem usar seus próprios dados e torná-los acessíveis por meio de interfaces semelhantes ao ChatGPT. E estamos vendo organizações desenvolvendo grandes modelos de linguagem com seus próprios dados”.

Enquanto isso, modelos de linguagem menores estão surgindo e evoluindo rapidamente. “A velocidade da mudança aqui é enorme”, diz Schaubroeck. As empresas estão começando a executar provas de conceito, mas ainda não se fala muito sobre o custo total de propriedade, diz ele. “Essa é uma pergunta que não ouvimos muito, mas você não deve ser ingênuo a respeito disso”

Sua infraestrutura de dados está pronta para IA generativa?

A IA generativa incorporada é fácil para as empresas implantarem porque o fornecedor está adicionando a IA ao lado dos dados necessários para funcionar.

Por exemplo, a Adobe está adicionando preenchimento de IA generativo ao Photoshop, e a imagem de origem com a qual ele precisa trabalhar está bem ali. Quando o Google adicionar IA generativa ao Gmail ou a Microsoft adicioná-la ao Office 365, todos os documentos necessários estarão prontamente disponíveis. No entanto, implantações corporativas mais complexas exigem uma base de dados sólida, e isso é algo que muitas empresas ainda estão trabalhando.

“Muitas empresas ainda não estão prontas”, diz Nick Amabile, CEO da DAS42, uma empresa de consultoria de dados e analytics. Os dados precisam ser centralizados e otimizados para aplicativos de IA, diz ele. Por exemplo, uma empresa pode ter dados espalhados entre diferentes sistemas de back-end, e obter o máximo valor da IA exigirá extrair e correlacionar esses dados.

“A grande vantagem da IA é que ela é capaz de analisar ou sintetizar dados em uma escala que os humanos não são capazes”, diz ele.

Quando se trata de IA, os dados são o combustível, confirma Sreekanth Menon, Vice-Presidente e Líder Global de Serviços de IA/ML na Genpact.

Isso torna ainda mais urgente capacitar a empresa para a IA, com os dados certos, dados limpos, ferramentas, governança de dados e diretrizes, diz ele, acrescentando: “E será que meu atual pipeline de dados é suficiente para o sucesso da minha IA generativa?”

Isso é apenas o começo do que será necessário para preparar uma empresa para a IA generativa, diz ele. Por exemplo, as empresas vão querer garantir que sua IA generativa seja explicável, transparente e ética. Isso exigirá plataformas de observabilidade, diz ele, e essas plataformas estão apenas começando a aparecer para grandes modelos de linguagem.

Essas plataformas precisam ser capazes de rastrear não apenas a precisão dos resultados, mas também custo, latência, transparência, viés e monitoramento de segurança. Além disso, os modelos geralmente precisam de supervisão consistente para garantir que não estejam se deteriorando ao longo do tempo.

“Neste momento, é necessário estabelecer diretrizes e princípios orientadores”, diz ele. Então as empresas podem começar a incubar IAs generativas e, uma vez que atinjam a maturidade, democratizá-las para toda a empresa.