TI corporativa avança – com cautela – com IA generativa

Vince Kellen entende as limitações bem documentadas do ChatGPT, DALL-E e outras tecnologias generativas de IA – que as respostas podem não ser verdadeiras, as imagens geradas podem carecer de integridade de composição e as saídas podem ser tendenciosas – mas ele está avançando de qualquer maneira. Kellen, CIO da University of California San Diego (UCSD), diz que os funcionários já estão usando o ChatGPT para escrever códigos e descrições de cargos.

O ChatGPT de geração de texto da OpenAI, juntamente com seu primo de geração de imagem DALL-E, são os mais proeminentes entre uma série de grandes modelos de linguagem, também conhecidos como modelos de linguagem generativa ou IA generativa, que capturaram a imaginação do público no ano passado. Os modelos respondem a solicitações escritas para gerar uma variedade de respostas, desde documentos de texto e imagens até códigos de programação.

Kellen vê o código gerado pelo ChatGPT como uma ferramenta de aumento de produtividade da mesma forma que os compiladores foram uma melhoria em relação à linguagem assembly. “Algo que produz bibliotecas e software não é diferente de pesquisar no GitHub”, diz ele. “Também o usamos para escrever descrições de trabalho que sejam sensíveis ao nosso conteúdo e formatação. Você pode então passar para a edição muito rapidamente, procurando por erros e confabulações”. Embora a tecnologia ainda esteja em seus estágios iniciais, para alguns aplicativos corporativos, como aqueles que exigem conteúdo e fluxo de trabalho intensivo, sua influência inegável está aqui agora — mas prossiga com cautela.

Pronto para as aplicações certas

A IA generativa está pronta para uso em codificação, fluxos de trabalho administrativos, refinamento de dados e casos de uso simples, como preenchimento prévio de formulários, diz Oliver Wittmaier, CIO e proprietário do produto da DB SYSTEL GmbH, subsidiária integral da DB AG e parceira digital para todas as empresas do grupo. E no setor de transporte, diz ele, “a IA pode afetar direta ou indiretamente a prevenção do transporte, a direção do transporte e o gerenciamento do transporte”.

Leia mais: 10 maneiras de acelerar a transformação digital

A geração de conteúdo também é uma área de interesse particular para Michal Cenkl, Diretor de Inovação e Experimentação da Mitre Corp. “Quero resumo contextual e refinamento por meio de diálogo, e é isso que esses modelos de linguagem ampla oferecem”, diz ele. Atualmente, sua equipe está analisando dois casos de uso nos domínios de conhecimento e especialização. “A primeira é se eu quiser escrever um e-mail para um de nossos patrocinadores resumindo o trabalho que fizemos e que é relevante para eles – e escrevê-lo no contexto das comunicações que já tivemos com eles. Isso é incrivelmente poderoso”.

A segunda é para o pessoal do projeto. Normalmente, o Cenkl revisa currículos e busca por tags de habilidades para encontrar as pessoas certas para um projeto. A IA generativa pode facilitar isso. “Por exemplo, posso perguntar: ‘O que Michael pode fazer neste projeto’, com base no que ele está fazendo agora, e obter um resumo do que ele poderia fazer sem que eu precise construir isso a partir de um currículo”.

E na varejista de carros usados CarMax, eles usam IA generativa há mais de um ano, aproveitando as APIs da OpenAI para consolidar o texto da avaliação do cliente em resumos mais gerenciáveis e legíveis. Mas o CIO Shamim Mohammad diz que sua equipe também expandiu o uso da tecnologia para outras áreas.

Uma aplicação, em imagens de veículos, foi concebida como forma de melhorar a experiência do cliente. A IA otimiza imagens para cada veículo que a empresa adiciona ao seu estoque, que a qualquer momento inclui entre 50.000 e 60.000 veículos, diz ele. “Tornamos cada imagem o mais realista possível sem perder a validade dela”, diz ele. Por exemplo, seus cientistas de dados criaram um modelo de “varredura digital” que substitui uma foto do interior de um carro com o piso sujo por uma imagem que mostra um carro limpo. “Ainda é o mesmo carro, mas parece melhor e é uma experiência melhor para o cliente”, diz ele.

Da mesma forma, a Nike tem usado IA generativa para gerar imagens de protótipos de produtos, diz Rowan Curran, Analista da Forrester. “Você pode usar um modelador de texto para 3D, testar no espaço 3D e obter uma sensação muito mais visceral de como ficará no mundo real – tudo com muito pouco esforço”, diz ele.

Aplicações com o maior potencial de retorno

Criar código e melhorar a experiência do cliente são as principais áreas que as empresas podem aproveitar hoje usando IA generativa e têm o maior retorno potencial em termos de ganhos de eficiência, diz Mohammad.

Gary Jeter, EVP e CIO da TruStone Financial Credit Union, diz que essas são áreas que seus desenvolvedores também buscaram com a implementação do GitHub do Codex da OpenAI. E, diz ele, o uso de IA generativa para codificação funcionou bem. Cenkl acrescenta que os modelos generativos de IA funcionam melhor na codificação do que na linguagem humana, porque as linguagens de programação são mais estruturadas. “Ele pode revelar essa estrutura e é por isso que funciona”, diz Cenkl.

A CarMax está aproveitando ao máximo o Copilot do GitHub, onde ele diz que os engenheiros, em alguns casos, geram até 40% de seu código. “Isso está evoluindo rapidamente”, diz Mohammad. “Mas você precisa garantir que não haja violação de direitos autorais, conteúdo falso ou malware incorporado se estiver usando-o para criar software”. Você não pode simplesmente conectar esse código sem supervisão.

Outras áreas propícias para aplicativos corporativos, diz Curran, incluem a geração de cópias de marketing, imagens, designs e a criação de melhores resumos dos dados existentes para que as pessoas possam consumi-los com mais eficiência. “Algumas pessoas estão até usando esses grandes modelos de linguagem como forma de limpar dados não estruturados”, diz ele. E no próximo ano, os recursos generativos de IA podem começar a aparecer em alguns softwares corporativos, desde software de help desk até aplicativos do Microsoft Office.

Não confie, verifique

Além dos benefícios, os CIOs que implantam a tecnologia precisam estar cientes dos possíveis problemas de propriedade intelectual relacionados aos resultados gerados, adverte Mohammad, da CarMax. Modelos generativos, como o DALL-E, que treina dados da Internet, geraram conteúdo que pode infringir conteúdo protegido por direitos autorais, e é por isso que a Getty Images processou recentemente a Stability AI por causa de sua ferramenta de geração de arte orientada por IA, Stable Diffusion.

A tecnologia também precisa de supervisão humana. “Sistemas como o ChatGPT não têm ideia do que estão criando e são muito bons em convencê-lo de que o que estão dizendo é preciso, mesmo quando não é”, diz Cenkl. Não há garantia de IA – nenhuma atribuição ou informação de referência informando como surgiu sua resposta e nenhuma explicabilidade de IA, indicando por que algo foi escrito do jeito que foi. “Você não sabe qual é a base ou quais partes do conjunto de treinamento estão influenciando o modelo”, diz ele. “O que você obtém é puramente uma análise baseada em um conjunto de dados existente, então você tem oportunidades não apenas de viés, mas de erros factuais”.

Wittmaier está otimista com a tecnologia, mas ainda não acredita na implantação voltada para o cliente do que ele vê como uma tecnologia em estágio inicial. Neste ponto, diz ele, há potencial de curto prazo no ambiente de suíte de escritório, chatbots de contato com o cliente, recursos de help desk e documentação em geral, mas em termos de áreas relacionadas à segurança nos negócios da empresa de transporte, acrescenta, a resposta é um claro não. “Ainda temos muito a aprender e melhorar para poder incluir IA generativa em áreas tão sensíveis”, afirma.

Jeter tem preocupações semelhantes. Embora sua equipe tenha usado o ChatGPT para identificar uma correção de código e implantá-la em um site em 30 minutos – “teria demorado muito mais sem o ChatGPT” – e ele acha que a tecnologia poderia ser útil para redigir termos e condições em contratos, mas isso não está totalmente comprovado. “Não vamos expor nenhuma IA generativa a membros externos”, diz ele. “A TruStone não será de vanguarda neste espaço”.

Quando a TruStone finalmente começar a usar a tecnologia para o benefício de seus membros, ele acrescenta, ela monitorará as conversas por meio de revisão humana e automatizada para proteger seus membros e a marca.

Hoje, a chave para a implantação bem-sucedida ainda é ter um humano no circuito para revisar o conteúdo gerado quanto à precisão e conformidade, diz Kellen, da UCSD. “Certificar-se de que a máquina tome a decisão certa torna-se um importante ponto de litígio”, diz ele. “Vai demorar um pouco até que as organizações [o usem] para qualquer coisa de alto risco, como diagnósticos médicos”. Mas a IA generativa funciona bem para gerar algo como resumos de avaliações, desde que haja um humano supervisionando-os. “Isso nos atrasa um pouco, mas é a coisa certa a fazer”, diz ele. Eventualmente, ele acrescenta: “Encontraremos maneiras automatizadas de garantir que a qualidade seja boa. Mas agora, você deve ter um processo de revisão para garantir que o conteúdo gerado seja preciso”.

Outro risco bem documentado, além da precisão, é o potencial de viés nos modelos introduzidos a partir dos dados usados para treiná-los. Isso é especialmente problemático quando a IA generativa está usando conteúdo da Internet, como o ChatGPT, mas isso pode ser um problema menor ao treinar o modelo com seus próprios dados corporativos privados que você pode revisar quanto a possíveis vieses, diz Kellen. “Quanto mais você chega à empresa, onde a classe de dados é mais restrita e mundana, mais a IA generativa brilha”, diz ele.

A coisa a entender sobre modelos de linguagem grande, diz Cenkl, é que essas máquinas são até certo ponto sábias. “Elas não entendem, mas são muito boas em computação”, diz ele.

Mudanças nas responsabilidades do trabalho – funções

“A tecnologia tornou as coisas melhores, mas também criou muito trabalho extra para nós”, diz Mohammad. No entanto, ele acredita que a IA generativa é diferente. “É emocionante porque vai tirar algumas das coisas que não gostamos de fazer e nos tornar mais inteligentes”, diz ele.

Mas Curran aponta que não há expectativa de que a IA generativa substitua completamente qualquer função no curto prazo. “Isso pode reduzir o número de pessoas necessárias para executar uma função, como no desenvolvimento de conteúdo, gerenciamento de informações de produtos ou desenvolvimento de software”, diz ele. “Mas sempre haverá a necessidade de um humano no circuito”. E Mohammad acrescenta que, mesmo que a tecnologia possa escrever e resumir, sempre será necessária a inteligência humana para garantir a qualidade e controlar o que foi gerado para torná-lo melhor.

Etapas para começar

Agora é a hora de acelerar a tecnologia de IA generativa e começar a experimentar, diz Kellen. “Os CIOs precisam entender esse quebra-cabeça antes de serem enganados por fornecedores que estão incorporando a tecnologia em suas ofertas de software corporativo”, diz ele. “Se você passar o próximo ano procrastinando, ficará para trás”.

É importante se educar e ir mais fundo do que a discussão pública no ChatGPT para entender que essa tecnologia é muito mais complexa do que um aplicativo, diz Curran. Em seguida, comece a considerar casos de uso em que a IA generativa pode melhorar a eficiência ou a qualidade dos processos existentes. Por fim, pergunte de que tipos de recursos você precisará e se deve adquiri-los de um fornecedor ou construí-los você mesmo.

A partir daí, é uma questão de testar a tecnologia e considerar possíveis casos de uso. “Muitos de seus sistemas, quer usem dados estruturados ou não estruturados, terão pelo menos algum componente de linguagem natural e interface de conversação”, diz Cenkl. “Pense nos dados que você tem e quais partes deles podem ser aumentadas por essas tecnologias” e demonstre o potencial. Por exemplo, Jeter diz que gerou um modelo de termos e condições e o enviou ao departamento de conformidade para mostrar como eles poderiam usá-lo.

Os modelos de IA generativa são grandes e treiná-los do zero é caro, então a melhor maneira de começar é usar um dos serviços em nuvem, diz Curran. A CarMax, por exemplo, usa o Azure OpenAI Service da Microsoft com GPT 3.5. “Os dados que carregamos são nossos – não são compartilhados com outras pessoas”, diz Mohammad. “Podemos ter grandes quantidades de dados e processá-los muito rapidamente para executar nossos modelos. Se você tem uma pequena equipe ou problema de negócios que pode tirar proveito da tecnologia de IA generativa, experimente”.