Atualmente, a maioria das organizações já utiliza IA em produção. Quase nenhuma a utiliza onde realmente importa: nas experiências dos clientes, em decisões críticas para o negócio ou em processos com supervisão humana mínima. É nessa diferença que se ganha ou perde vantagem competitiva.
Normalmente, o obstáculo é a confiança, não a capacidade. Na implementação de IA em contextos de alto risco, essa confiança resulta do cumprimento de quatro critérios específicos.
Esses critérios abrangem a forma como se testa o comportamento da IA, como se criam e gerem soluções à escala empresarial e se a liderança acredita verdadeiramente na importância de tudo isto.
Cumprir estes critérios de confiança cria experiência prática e responsabilização, reduzindo os motivos para evitar a implementação de IA capaz de produzir mudanças significativas. Sem essa confiança, a IA fica limitada a poupar algumas libras em utilizações periféricas, sem impacto relevante no funcionamento da organização.
Há um ano, o equivalente a décadas em anos de IA, a maioria das empresas estava no "purgatório das provas de conceito de IA": havia muitas provas de conceito interessantes que demonstravam o potencial da IA, mas não era possível colocar nenhuma em produção. Um ano depois, muitas organizações já têm pelo menos algumas soluções de IA em produção, o que representa um grande avanço.
Contudo, a IA é muitas vezes aplicada a processos periféricos: é mais fácil, uma equipa de Inovação pode desenvolvê-la com um utilizador de negócio empenhado e, se algo correr mal, "não é o fim do mundo". O processo não é verdadeiramente importante, existe um processo manual alternativo ou há várias pessoas envolvidas para limitar eventuais consequências negativas.
O resultado desta abordagem compreensível, mas conservadora, é um impacto igualmente modesto: dificilmente terá produzido melhorias relevantes nas oportunidades de crescimento, na experiência dos clientes ou na estrutura de custos.
É isso que separa as futuras vencedoras das restantes: as empresas mais progressistas investem na utilização da IA onde esta influencia o desempenho do negócio.
As empresas atrasadas também estão a "usar IA", mas não onde esta terá um impacto significativo no negócio.
E sim, utilizar IA em decisões de investimento, na experiência dos clientes, no desenvolvimento de produtos, em investigação e design e em "automatizações sem intervenção humana" parece mais arriscado, mas é aí que estão as verdadeiras recompensas.
As empresas que estão a ganhar vantagem nesta área podem ainda não ter visibilidade no mercado, mas, quando o forem, a diferença já será substancial. Além disso, a maior rapidez com que implementam IA continuará a alargar essa distância enquanto as empresas atrasadas percebem onde erraram todo este tempo.
A questão é, então: de que precisa uma organização para aplicar IA com confiança nos processos que realmente importam?
Comecemos por assumir que já evoluiu de "Temos uma ferramenta de IA como o ChatGPT" para "Temos provas de conceito" e depois para "Temos dez soluções simples de IA em funcionamento". Caso contrário, tem de tratar disso com prioridade. Esses primeiros passos podem ser básicos, mas são essenciais para começar a desenvolver a literacia empresarial em IA, gerar melhores casos de utilização e esclarecer os procedimentos internos necessários para colocar qualquer IA em produção.
Nesta fase, a organização deve tornar-se mais ambiciosa, avançando para "soluções relevantes de IA aplicada com supervisão humana" e, depois, para o diferenciador "aplicamos IA nos nossos processos essenciais e nas experiências dos clientes".
Estas últimas etapas raramente são limitadas pela tecnologia, mas sim pela confiança da organização. Porque há sempre um motivo para adiar ou evitar as questões difíceis:
"E se transmitir informações erradas?", "E se tiver um comportamento incorreto e acabarmos nas notícias?", "E se errar o cálculo e tomarmos a decisão errada?", "E se maltratar os clientes?", "E se o modelo ficar indisponível?", "Como damos apoio às atualizações?", "E se a regulamentação mudar?", "Devemos esperar pelo novo modelo?", etc.
Na nossa perspetiva, há normalmente quatro condições que proporcionam a confiança necessária para carregar no botão "Colocar em produção" numa mudança baseada em IA com elevado impacto.
O porquê: a organização, sobretudo a direção executiva, acredita verdadeiramente na ideia de que "a IA é importante para o sucesso do nosso negócio"? Caso contrário, é mais provável que a organização encontre motivos para evitar as decisões difíceis.
A capacitação: existe uma equipa de Mudança, Transformação ou Capacitação em IA que apoie a organização à medida que esta evolui com a IA? Uma equipa que trate da adoção, formação, regulamentação, novas formas de trabalhar, contestação de pressupostos, disponibilização do financiamento necessário, etc. A IA não é uma mudança que se possa "deixar para a tecnologia resolver", como aconteceu muitas vezes com as iniciativas de Cloud ou Digitais. Tem de ser liderada pelo negócio e contar com o apoio adequado.
O como: existe uma arquitetura empresarial e de soluções estabelecida para a IA aplicada? Embora este domínio evolua continuamente, definir uma perspetiva obriga a refletir e a aprofundar conhecimentos sobre os mecanismos de proteção adequados, custos, observabilidade, controlos, acesso a modelos, etc. Isso começa a gerar credibilidade interna de que a organização "sabe o que está a fazer" em matéria de IA e evita várias abordagens divergentes ao desenvolvimento.
O teste de confiança para a entrada em produção: os responsáveis pela solução podem adiar indefinidamente a resposta à pergunta "é suficientemente boa para entrar em produção?". Os testes tradicionais realizados pelas equipas de garantia da qualidade não proporcionam essa confiança nem esse sentido de responsabilidade num sistema de IA não determinístico. As avaliações proporcionam.
Analisemos estes critérios pela ordem inversa, pois é a mais próxima da tomada de decisões sobre a confiança necessária para entrar em produção.
Durante décadas, as organizações confiaram à equipa de garantia de qualidade a decisão de determinar se uma versão era suficientemente boa. Em teoria, os testes eram realizados pelas partes interessadas do negócio; na prática, eram feitos pela equipa de garantia de qualidade. O resultado era aprovado ou reprovado com base em inúmeras regras do tipo se isto, então aquilo. Muito trabalho, mas sem grande complexidade.
Isso não funciona com a IA, cujo comportamento temos de avaliar.
As avaliações, ou evals, permitem tornar mensurável o comportamento qualitativo da IA. Em vez de aprovar ou reprovar, definem-se critérios (como correção, tom, fundamentação factual e comportamento de recusa) e atribuem-se pontuações. Acompanhe essas pontuações ao longo do projeto, à medida que melhora os prompts, os modelos, os mecanismos de proteção, etc., e obterá algo que a equipa do projeto, os comités de mudança e a liderança do negócio podem usar com confiança: uma pontuação de correção que passou de x para y durante o projeto.
Esse número cumpre duas funções. Primeiro, gera confiança ao demonstrar melhorias ao longo do tempo e ao dar às partes interessadas provas concretas de que o sistema se comporta de forma fiável e consistente dentro das expectativas definidas.
Segundo, cria responsabilização. São os números que podem apresentar, juntamente com o histórico dessas evals. Um conjunto documentado de avaliações, testado numa gama bem definida de cenários, é o equivalente em IA ao relatório de testes que demonstra à comissão de aprovação que houve a devida diligência: o sistema faz apenas o que deve fazer e apenas da forma como o deve fazer?
Naturalmente, esses números só são relevantes se os critérios de avaliação forem suficientemente abrangentes. Isso exige uma mudança do modelo operacional que a maioria das organizações inicialmente não compreende: a "empresa" tem de ser responsável pelos critérios de avaliação, não a equipa tecnológica, a equipa de garantia da qualidade ou um único utilizador júnior. Os responsáveis pelos produtos e os especialistas conhecem o domínio, os casos extremos, o tom de voz pretendido, os tipos de interação que os utilizadores podem tentar, os passos de raciocínio adequados, os modos de falha, os pares corretos de perguntas e respostas, etc. Quem utiliza e implementa a solução deve decidir o que significa obter um bom resultado.
Isto significa que, para aprovar uma solução que aplica IA no centro da experiência do cliente, basta fazer duas perguntas:
(1) Quem definiu os critérios de avaliação; e
(2) O desempenho das evals melhorou ao longo do tempo face a esses critérios e já ultrapassou o limiar mínimo?
Se a resposta for "a equipa tecnológica definiu-os, mas estamos satisfeitos com os resultados", a aplicação não está pronta. Se a resposta for "sim, testámos na semana passada e passou", provavelmente não existe a maturidade de avaliação necessária para inspirar confiança, pois é pouco provável que as evals tenham sido o ponto de partida do desenvolvimento.
Mas, se o responsável de produto do negócio tiver definido, revisto e aperfeiçoado as evals ao longo de todo o desenvolvimento e conseguir demonstrar uma evolução do desempenho na direção certa, terá algo que vale a pena aprovar.
O alinhamento com princípios e normas de arquitetura de IA acrescenta outra camada de confiança. Embora tenha sido adequado criar as primeiras cinco aplicações de IA da forma mais conveniente para começar, uma abordagem mais estruturada, com arquiteturas de referência para aplicações e uma plataforma empresarial de IA, torna-se necessária para ganhar escala e implementar rapidamente IA segura e bem gerida em toda a organização.
Todas as equipas de engenharia têm de conseguir "herdar" rapidamente o acesso a modelos, mecanismos de proteção, observabilidade, escalabilidade, gestão de custos, etc., para poderem concentrar-se na engenharia da solução.
Definir uma perspetiva sobre a plataforma empresarial de IA e as abordagens arquitetónicas, mesmo que tenha uma validade curta devido ao ritmo acelerado da mudança, reforça a confiança da organização na sua capacidade de implementar IA com segurança em sistemas críticos. Isto significa que alguém terá analisado todos os fatores essenciais e escolhido a melhor via de implementação, reforçando também a confiança de que a solução dará suporte a esses processos importantes.
Não se trata de "fazer o mesmo, mas com acesso a uma ferramenta de IA". Pode ser um lugar-comum, mas transformar significa redesenhar processos, repensar a oferta de produtos, evoluir a experiência dos clientes e mudar as formas de trabalhar e, muito provavelmente, as estruturas das equipas.
Isso não acontece como uma atividade secundária nem pode ser liderado pela Tecnologia (e não, também não pela sua equipa de "Inovação" com três trabalhadores a tempo inteiro). E, se adotar a abordagem de que "as coisas acabarão por se resolver", não conseguirá acompanhar o ritmo de mudança dos concorrentes vencedores.
Além disso, identificar os casos de utilização verdadeiramente transformadores e obter apoio para os concretizar exige conhecimentos sólidos de IA em toda a empresa, bem como uma atitude positiva perante esta tecnologia.
A transformação com IA precisa, portanto, de pessoas que conheçam as necessidades da organização, saibam promover a mudança e compreendam a IA, com um mandato do conselho de administração para coordenar, dinamizar, financiar, influenciar, gerir, definir prioridades e tomar decisões.
Sobretudo nas primeiras fases, funciona bem uma estrutura central como um Centro de IA, uma equipa de Transformação com IA ou um Gabinete de IA. Esta equipa central reforça a confiança de que a organização tem uma estratégia para executar, de que as grandes decisões podem ser tomadas e distribuídas rapidamente e de que existem critérios de qualidade para a transformação com IA. Sem ela, a abordagem corre o risco de ficar demasiado fragmentada, gerando incoerências nas decisões, nas escolhas de produtos ou soluções e na qualidade, o que acaba por minar a confiança necessária para aplicar IA em áreas de alto risco.
Como referido anteriormente, as empresas que obterão uma verdadeira vantagem competitiva com a IA serão as que desenvolverem a experiência, os conhecimentos e a confiança necessários para a implementar de forma frequente e rápida no centro dos processos e experiências importantes que melhoram a experiência dos clientes, o desempenho dos produtos, o ritmo de produção, etc.
São necessárias boas práticas de avaliação, uma arquitetura que se adapte rapidamente e ganhe escala, e uma gestão da transformação com atitude proativa, que ajude a organização a aprender, adaptar-se e estabelecer novas formas de trabalhar.
Contudo, nada disto terá êxito se partir "de baixo para cima". As mudanças e as suas implicações são simplesmente demasiado rápidas e profundas. A "aprovação do conselho de administração" ou o "apoio da gestão" também não são suficientes.
Se os seus colaboradores não perceberem claramente por que motivo as mudanças são necessárias, o que significam para cada um deles — de bom ou de mau — e o que têm a ganhar, a transformação avançará pela porta dos fundos e causará muitos danos colaterais.
O quarto elemento para obter uma verdadeira vantagem com a adoção da IA é, portanto, uma liderança que compreenda e acredite genuinamente que investir em IA é essencial para o sucesso futuro da empresa. É a estratégia de IA dessa liderança que deve ser incorporada na missão e nos objetivos, defendida repetidamente e demonstrada através de decisões acompanhadas por ações.
Isto dá às equipas de toda a organização os incentivos, o apoio e o sentido de urgência necessários para desenvolverem competências e tomarem decisões importantes, embora algo desconfortáveis, escolhendo o caminho mais difícil, mas também mais recompensador. Dá-lhes confiança para carregar em "Colocar em produção" naquela experiência do cliente ou naquele processo de decisão de investimento baseado em IA.
Nos próximos dois anos, as empresas que mais beneficiarão da IA não serão as que tiverem mais implementações. Serão as que aplicarem eficazmente a IA aos sistemas e processos importantes, orientados para os clientes, influentes nas decisões e críticos para o negócio, desenvolvendo a capacidade empresarial para o fazer de forma consistente e segura.
Qual é o próximo passo? Se a sua organização está a "usar IA", mas esta não tem impacto no sucesso da empresa, tente responder às seguintes perguntas:
É claro o papel da IA no cumprimento da missão da empresa? Sente que a liderança acredita realmente que adotar IA é essencial para o sucesso futuro da empresa?
Existe uma estrutura central que impulsione a agenda da IA, forme a empresa e coordene as atividades?
A equipa tecnológica está a desenvolver conhecimentos, capacidade e padrões que permitam uma engenharia de IA mais rápida e segura?
As versões chegam à produção sem bloqueios causados por perguntas sem resposta sobre o comportamento da IA?
Se respondeu "não" a alguma destas perguntas, já sabe por onde começar a reforçar a confiança da organização na implementação rápida e consistente da IA, para obter vantagem competitiva nas áreas onde esta realmente importa.