O uso de ferramentas de inteligência artificial sem regras de governança pode ser "catastrófico", avalia Rodrigo Hulsenbeck, CEO da Premier Soft, em entrevista ao videocast Radar de Inovação, do canal GZH.
O alerta é para o fenômeno chamado Shadow AI — quando funcionários adotam ferramentas de IA por conta própria, muitas vezes com assinatura no cartão de crédito pessoal, sem autorização, conhecimento ou rastreio dos dados que trafegam nessas plataformas.
Shadow AI: o risco invisível nas empresas
A inteligência artificial chegou à maioria das organizações de baixo para cima — primeiro os funcionários, depois os departamentos de TI. O resultado é uma camada de uso não rastreada, que pode expor chaves de acesso por programadores e tornar públicas planilhas com dados sensíveis, entre outros riscos.
Para Hulsenbeck, a ausência de governança é o nó central do problema: sem controle, as empresas não sabem quais dados saem, para onde vão nem quem tem acesso a eles.
O limite do vibe coding
O CEO também define onde a prática de desenvolver software conversando com IA — o chamado vibe coding — para de ser aliada e vira risco:
— Vibe coding para ideação, MVP (mínimo produto viável), é maravilhoso. Para produto final, regulatório, crítico, de segurança da informação, na minha opinião, é catastrófico — afirma.
A avaliação reforça a defesa de Hulsenbeck por uma governança ativa de IA nas empresas: regras claras sobre quais ferramentas podem ser usadas, por quem e com quais dados.
Radar de Inovação
Confira a entrevista na íntegra
O que é Shadow AI, ou IA das sombras?
Esse termo é muito usado e faz referência ao que a gente chama de Shadow IT, que já acontecia no começo dos anos 2000: a adoção não regulamentada de uma tecnologia pela empresa. Quando a gente fala de Shadow AI, a IA é um fenômeno que aconteceu de baixo para cima nas empresas. Diferente de uma política que a corporação estabelece, que geralmente vem dos diretores, a IA surgiu de baixo para cima para resolver os problemas do dia a dia dos profissionais. Hoje nós temos uma acessibilidade muito grande às ferramentas de LLM, o famoso ChatGPT, o famoso Claude — as ferramentas de IA generativa, de modelos de larga linguagem. E é muito fácil para qualquer colaborador, qualquer pessoa na empresa, assinar com o seu cartão de crédito e começar a usar isso em prol da produtividade. Qual é o perigo disso? Muitas pessoas, com as melhores intenções, assinam para dar vazão ao seu trabalho e não dão visibilidade, não sinalizam isso para as empresas — ou sinalizam, e as empresas não sabem como se comportar em relação àquilo. Isso acontece em larga escala em todas as empresas, e a gente acaba não tendo um modelo de governança em cima disso. Essa é a famosa Shadow AI: uma adoção desgovernada dessas tecnologias.
Quais são os riscos que mais preocupam as organizações hoje?
Os principais riscos são vários, mas eu gostaria de começar pela falta de controle sobre o que está sendo trafegado ali dentro. A gente fala não só de um contexto de desenvolvimento, em que se pode ter exposição de chaves. Um programador pode expor uma chave sensível, um código sensível que dá acesso a um repositório e que pode ter um dano grave para a empresa. Mas eu posso ir até o nível administrativo: alguém do financeiro subindo uma planilha de Excel e expondo dados de DRE. Dependendo de como for subido, dependendo da ferramenta, da LLM, do modelo a que for exposto, esse dado pode vazar. Você imagina qual é o impacto de expor uma informação sensível, sigilosa da empresa, de forma pública. Essa parte de privacidade dos dados é algo muito grave. Um outro fato pouco falado é a governança da rastreabilidade disso. Quanto de dado está trafegando ali? Quanto de contexto está acontecendo nessas transições? Como eu consigo rastrear o que foi definido? Pensa que uma estratégia foi montada por uma série de IAs organizadas pelo time: como eu consigo rastrear o que foi feito, de onde veio aquilo, quem foi, qual IA foi? Quando a gente tem isso tudo pulverizado na empresa, sem governança, sem lastro, sem o que a gente chama de knowledge base, sem a base de conhecimento centralizada, eu tenho muita difusão de informação. Esse é um risco muito grande.
Quase ninguém lê os termos de uso. Quando se fala em ChatGPT ou Google Gemini, muita gente pensa: por que o dado da minha empresa, que tem 100 empregados, seria importante para a OpenAI ou para o Google? É importante mesmo?
Sem dúvida nenhuma. A gente tem diversos perfis de usuários, diversos perfis de empresas, e todos esses LLMs, todos esses modelos, estão sendo constantemente treinados. Quando a gente está falando dos usos tradicionais das ferramentas, dos planos mais convencionais que são assinados, são planos que estão constantemente treinando esses modelos. Isso é um ouro muito grande para essas grandes empresas, porque elas conseguem definir contextos e padrões de comportamento para cada um dos usuários. Saber como uma empresa menor se comporta, independentemente de tamanho, independentemente de perfil, é uma persona, é uma informação que vale muito para essas big corps. E essa questão de você treinar um modelo é também uma distinção de você ter uma IA governada dentro da sua empresa, porque existem formas de você ter uma LLM privada, em que você consegue ter o controle total daquela informação e consegue treinar o modelo para o seu contexto, para a sua empresa. Dessa forma, você não está treinando um modelo que pode ser usado pela sua concorrência. Aí está mais um valor de você ter essa preocupação da governança da IA: não simplesmente sair utilizando de forma pública, e sim ter essa preocupação de utilização privada dentro da sua empresa.
Vamos a um exemplo hipotético: uma empresa de aviamentos, com cinco ou seis empregados, que resolve não usar mais contadora e joga toda a parte financeira na IA — despesas e receitas em uma série de prompts no ChatGPT ou no Claude, para montar uma planilha. Qual é o risco que essa empresa está vivendo?
Qualquer informação financeira que você coloca expondo numa LLM pública, você está conseguindo expor isso para o algoritmo como um todo. Então, numa empresa muito pequena, eu te falo que o risco é pequeno, porque você tem um contexto muito controlado. Mas, a partir do momento em que você consegue ter um corpo um pouco maior de empresa, você consegue ter exposição de um dado um pouco maior, um pouco mais sensível. Tudo o que a gente está falando de dados financeiros, eu entendo que você tem que ter uma preocupação muito grande. Faz todo sentido, a partir do momento em que você tem um controle financeiro, você ter o que a gente chama de nuvem privada, ter isso dentro da sua casa. Ou então, pelo menos, se você não conseguir, no exemplo que você deu, de uma empresa realmente muito pequena, que está começando, que você tenha a preocupação de fazer a contratação dos modelos mais privados. Porque, quando você faz a contratação do modelo padrão, seja do ChatGPT, seja ali da Anthropic, você consegue ter as opções de privacidade, você consegue configurar isso. Numa empresa que tem um tamanho muito reduzido, eu iria nessa linha: poder ter, sim, as licenças individuais, só que com esses cuidados de não ter esse tráfego aberto. A partir do momento em que você tiver um corpo um pouco maior, aí faz sentido ter essa infraestrutura de TI dentro de casa. Em resumo: se você já tem um time de TI, uma estrutura de TI, eu teria essa preocupação de ter essas nuvens, esses dados, dentro de casa.
As empresas estão adotando IA para melhorar a produtividade, para as pessoas fazerem mais coisas em menos tempo. Mas nem sempre as ferramentas que esses funcionários usam são homologadas. O que fazer quando isso acontece?
Esse é um grande desafio. A gente entende que as pessoas, naturalmente, são resistentes à mudança. Por exemplo, a gente tem uma ferramenta aqui, o Prismon, que é uma ferramenta de governança de IA. Mas a gente não consegue governar o que não é usado. Então, antes de você botar a governança, que eu tanto falo aqui de controle da empresa, você precisa garantir que o usuário final vai utilizar aquilo.
Que ferramenta é essa?
Prismon. O Prismon é uma ferramenta de IA da Premier Soft — mais do que uma ferramenta de IA, é uma ferramenta de governança de IA. A gente viu, durante os últimos anos, que foram o grande boom da IA, que muitas empresas têm a utilização de IA dentro de casa e têm essa preocupação de conseguir ter esse tracing, essa governança dos dados que estão acontecendo, e não tinha no mercado uma ferramenta que garantisse que elas conseguissem ter esse controle. A gente desenvolveu o Prismon justamente para ter essa governança. O principal ponto, como empresa, é a gente conseguir demonstrar o valor daquilo. Por exemplo: por que eu vou ter um executivo comercial utilizando a minha ferramenta homologada e não o ChatGPT dele, se ele já está acostumado com a interface, com a utilização? Se eu der algum tipo de benefício para ele. Se na minha ferramenta de IA homologada eu tenho uma base de conhecimento com os meus perfis de cliente, com todas as minhas tabelas comerciais, com todo o meu CRM conectado, eu tenho toda uma facilidade de acesso para poder ganhar produtividade e confiança na informação. Eu tenho um meio muito mais rápido e eficiente de ele buscar informações e interagir com a inteligência artificial pela ferramenta da empresa do que pela ferramenta própria dele. Então, por que ele não vai utilizar a ferramenta da empresa? Vai fazer sentido. Como empresa, a gente precisa fornecer um meio que realmente vai entregar valor e que vai fazer sentido para o dia a dia do cara. Porque, se eu simplesmente mudar a interface e não entregar nenhum valor, ele vai ter o contexto dele lá do dia a dia e vai continuar usando o ChatGPT. Tem que ter um valor embarcado. Justamente no Prismon a gente tem essa questão da base de conhecimento, a gente consegue construir agentes e bases de conhecimento que vão realmente entregar valor e fazer sentido para tirar o cara do uso pessoal e conectá-lo ao uso corporativo.
Uma pesquisa da Jitterbit afirma que 39% dos líderes de TI já abandonaram iniciativas desenvolvidas internamente para adotar plataformas prontas. Só que isso pode ficar mais caro e é menos orgânico do que uma ferramenta desenvolvida por vibe coding. Como a gente lida com isso?
Essa parte do vibe coding é muito interessante, porque ela é muito poderosa e, ao mesmo tempo, ela é muito perigosa. Eu entendo que é muito valioso você empoderar a área de negócio para ela poder criar a melhor solução para atender a dor dela. Eu entendo que ninguém é melhor que o usuário para dizer como ele gostaria de resolver determinada ação. Falando na utilização do que a gente chama de front-end, que é a parte da interface da aplicação: na própria Premier Soft, a gente tem vários sistemas desenvolvidos pelos nossos gerentes financeiros e gerentes comerciais, porque eles entendem o fluxo de trabalho que eles têm ali para resolver. Qual é o cuidado que a gente tem que ter quando fala de vibe coding? É o que a gente faz no passo dois. Uma vez que a gente tem tudo isso programado, desenvolvido, eu preciso colocar isso em uma infraestrutura segura. Preciso passar tudo isso e botar na mão de alguém que tenha conhecimento técnico. Eu tenho um time de TI que vai pegar toda essa infraestrutura, todo esse código gerado ali — seja por Lovable, seja por qualquer ferramenta com que foi feito o vibe coding —, e vai colocar numa arquitetura de segurança, com login controlado, dentro do que a gente chama de guardrails de segurança da empresa. A partir do momento em que você tem a área de negócio com vibe coding gerando aplicação e usabilidade para o negócio, para ganhar performance e produtividade no dia a dia, e a TI dando todo o apoio no back office para pegar isso e colocar com segurança e governança, eu acho que a gente tem o melhor dos dois mundos. Essa parte dois é que às vezes falta nas empresas.
E não fica mais difícil? Não fica mais demorado?
Eu acho que é muito mais difícil, muito mais perigoso se não tiver essa parte dois. A partir do momento em que a gente tem só a interface construída num vibe coding — a menos que seja uma utilização muito de protótipo, de MVP, para testar uma hipótese, o que eu acho supervalido —, no momento em que você quer escalar aquela solução, o risco de exposição de dados é muito grande. Aí a gente entra mais uma vez no risco da governança dos dados que você tem ali dentro. Se você tem uma pessoa que não é de tecnologia desenvolvendo uma aplicação, você tem, sim, uma pessoa desenvolvendo uma jornada ideal para um usuário naquele contexto, mas você não tem todo um back office de segurança, de boas práticas, de acessos externos, que vão evitar deixar dados expostos. Por mais que seja uma etapa dois que vai gerar uma certa fricção, é uma etapa dois que pode evitar muita dor de cabeça lá na frente. Na minha concepção, a depender da aplicação, eu não abriria mão. Lá na Premier Soft, a gente não abre mão dessa etapa dois por nada.
No South Summit, algumas pessoas falaram em "apocalipse do software", justamente porque está sendo feito muito aplicativo experimental, muito web app, principalmente com vibe code. E algumas empresas estão adotando sem limites e tendo problemas de segurança. Qual é o caminho para parar com os experimentos e usar a IA como estrutura crítica, com sistemas seguros, auditados, com um back office sólido?
Eu entendo que a IA, no contexto geral, já mudou todo o nosso ciclo e contexto de desenvolvimento. Eu tenho um background clássico de desenvolvimento, então eu aprendi ali os meios tradicionais e arcaicos, se eu posso falar hoje, de desenvolvimento. Hoje, quando a gente está falando de desenvolvimento em 2026, não tem como a gente não falar de agentes, de orquestração. Isso é inevitável. Quando a gente está falando de vibe coding, eu entendo que é algo excepcionalmente valioso quando a gente está falando de prototipação, de MVP, ou realmente de testar uma hipótese, testar uma ideia. No passado, chegavam clientes na Premier Soft querendo fazer um discovery, tirar uma ideia do papel e testar um aplicativo para uma ideia de negócio que eles tinham. A gente fazia isso em dois, três meses. Quando a gente fazia um trabalho imerso, fazia em um mês. Hoje, eu faço isso em uma semana. O próprio cliente poderia fazer isso em uma semana, mas, com a orquestração dos especialistas, a gente faz de forma mais direcionada. É uma ferramenta muito poderosa. Mas, ao mesmo tempo, isso é para poder provar uma hipótese. Na minha concepção, se a gente quiser fazer um produto de escala, um produto de mercado, um produto que vai atender grandes players, a gente deve, sim, voltar duas casas, ter um time de desenvolvimento que vai utilizar ferramentas de desenvolvimento — utilizando, sim, IA por trás, utilizando, sim, o que a gente chama de squads agênticas, utilizando as mais modernas tecnologias de IA, que a cada semana mudam —, para acelerar o fluxo de desenvolvimento e depois ter a parte de governança e de segurança por trás disso. Então eu entendo que são dois momentos no ciclo de desenvolvimento: toda a parte de ideação, de comprovação de tese e hipótese, para o vibe coding eu acho maravilhoso; qualquer coisa que seja um produto sólido e final, especialmente para grandes clientes, que são regulados, que têm informações sensíveis, como as financeiras, por exemplo, que nós atendemos, eu aboliria o vibe coding completamente. É a minha opinião.
Para uma financeira você aboliria o vibe coding por lidar com dados sensíveis das pessoas. O que mais pesa nessa decisão?
Porque eu entendo que a gente está falando de dados extremamente sensíveis e a gente está falando de regulação. A gente está falando aqui do Bacen, o Banco Central, que tem uma forte regulação em cima de todos os dados que ali transitam. Então, a gente tem um detalhe técnico também, a depender das funcionalidades a serem desenvolvidas, que tem latências determinadas. Quando a gente está falando de executar um Pix, por exemplo, um pagamento, a gente tem ali um tempo mínimo, de milissegundos, que o Bacen exige que seja executado. Ali a gente está falando de um arcabouço técnico muito grande para estar envolvido. Eu sei que é uma feature muito específica, e que talvez não vá entrar no contexto do vibe coding, mas toda a interface, todo o trajeto até eu chegar nessa jornada pode carregar consigo uma série de coisas que o vibe code vai trazer e que vão afetar essa performance. Então, tudo o que eu estou falando de performance e experiência de usuário para ambientes críticos que são regulados, eu particularmente não aconselharia a utilização do vibe code.
Para além da experiência do usuário, também tem a questão da segurança. Vamos supor uma franqueada de uma empresa de empréstimos que tem milhares de chaves Pix de pessoas aposentadas. Essas chaves poderiam ser roubadas?
Poderiam, sem dúvida. Elas já podem, inclusive, dependendo de como for o sistema, nos meios tradicionais. Todo software é hackeável, digamos assim. Então, naturalmente, a gente tem boas práticas, tem uma série de bibliotecas e políticas com que a gente trabalha para tornar o software cada vez mais seguro. Mas, uma vez que eu tenho pessoas que não têm esse background técnico e utilizam ferramentas que dão um poder de criação maravilhoso, mas que não têm esse viés de segurança técnico por trás, eu crio uma exposição muito grande. Então, como tudo na vida, existem ferramentas que têm o seu propósito. Vibe code, ideação, MVP, maravilhoso. Produto final, regulatório, crítico, segurança, na minha opinião, catastrófico.
O que seria uma política corporativa ideal para a adoção da inteligência artificial, na sua opinião?
A começar, eu acho que muitas pessoas enxergam a inteligência artificial como uma lacuna de tecnologia. Eu acho que tecnologia é um dos pilares, mas, mais do que tecnologia, a gente tem que falar aqui também de negócio e de cultura. Eu quero falar de cultura, principalmente. A gente precisa que a empresa tenha uma cultura de utilização de inteligência artificial, porque inteligência artificial não é um tema estritamente de tecnologia, é um tema cultural e de negócio da empresa. Se a empresa encara a IA como cultura, é o primeiro passo. E como é que uma empresa começa a criar uma cultura de IA no seu dia a dia? A gente chama isso de letramento. A empresa precisa entender, ensinar os seus colaboradores, letrar os seus colaboradores com o mais básico: glossários, o que é uma LLM, o que é um ChatGPT, todo esse beabá do mundo da IA. E mostrar as ferramentas, mostrar para o administrativo o ganho que ele pode ter ao executar determinada tarefa. O que acontece geralmente depois desse momento é a euforia. O cara começa a perceber "meu Deus, eu consigo fazer isso tudo" e começa a gastar token a rodo. Eu, mês passado mesmo, me assustei com o que eu paguei de fatura de tokens. Mas isso é muito legal e muito saudável. E qual é a etapa dois? Agora a gente tem um momento de disciplina: a gente mostrou aqui como funciona, agora vamos entender quais são os riscos, o que vocês podem ou não expor, o que acontece quando você faz determinada coisa, qual é a melhor política, por que usar tal modelo, por que gasta X, por que gasta Y. E, para condensar tudo isso, a gente também tem isso dentro do Prismon, porque ter essa disciplina de uso é complexo. O Prismon tem esse modelo automático de poder entender, com base no perfil do usuário, qual é o melhor modelo para plugar, porque a gente tem múltiplos LLMs lá dentro. Mas é justamente esse passo a passo de poder letrar a pessoa, de poder disciplinar o uso dela e de poder disseminar isso na empresa, desde o desenvolvimento, para as empresas que têm desenvolvimento, até o administrativo. Quando você põe isso na mão de um financeiro, de um marketing — o marketing geralmente é mais curioso, já vai estar usando —, na primeira vez que ele vê isso, ele fica fascinado, e essa euforia gera uma utilização extrapolada. Esse é o cuidado que a gente tem que ter com a tal da Shadow AI, porque a pessoa vai conseguir buscar outras ferramentas, e a empresa tem que estar junto dela para poder garantir que isso está dentro do compliance da empresa.
Para encerrar: o que você diria ao pequeno empreendedor que está fascinado com as possibilidades da IA, fazendo cartazes padronizados no ChatGPT, usando vibe coding para criar ferramentas de financeiro e de marketing, e que está usando a IA como core do negócio para acelerar na velocidade que o tempo atual exige? Quais são os riscos?
Eu não quero desencorajar o uso. Novamente, eu entendo que a gente tem um ganho muito incrível de produtividade com a IA. A gente acaba conseguindo otimizar áreas da empresa para as quais a gente vai precisar de várias pessoas para executar — a parte de geração de artes, como foi falado aqui, é realmente fantástica. Então continuem, sim, acelerando o uso. O cuidado que eu vou pedir para você ter, que eu vou aconselhar você a ter, na verdade, é realmente com os dados sensíveis. Toda vez que a gente está falando de dados que envolvem seus clientes, que envolvem dados financeiros, de balanço da empresa: não exponham isso em LLMs públicas. Cuidem desses dados sensíveis. Tudo o que for de cunho criativo, de cunho de produtividade, que não tem essa exposição sensível do cliente e da empresa, senta a bota. Eu acho que a gente tem que utilizar a produtividade a nosso favor. A partir do momento em que a gente tem esse momento de maior complexidade e você começa a sentir "acho que eu tenho um negócio aqui que eu não estou sabendo administrar" — desenvolvi um negócio com um vibe code, usei um Lovable da vida, fiz uma ferramenta, não sei mais como administrar isso, não sei o perigo que eu estou tendo aqui —, procure uma empresa de tecnologia para te ajudar. As empresas que são de TI vão ter esse contexto, vão conseguir pegar na mão, vão conseguir hospedar isso de forma correta. Então, por mais que você possa, por vezes não sendo de tecnologia, começar o desenvolvimento por conta própria, porque hoje a IA fornece essa possibilidade, e empoderar a área de negócio eu acho verdadeiramente fantástico, vai chegar o momento em que vai ter uma complexidade e uma exposição de dados tão sensíveis que vai precisar realmente de um especialista, uma pessoa que tem contexto e background para poder dar o próximo passo. Então, se você chegou nessa etapa, chame alguém, chame uma empresa que vai conseguir pegar esse cenário e vai conseguir te ajudar a seguir com segurança e governança.
