Em meio a diversas discussões sobre inovação tecnológica em diferentes contextos e mais fortemente com o uso de Inteligência artificial, um método que pode servir de articulador e apoiador dessa aceleração, nada mais é do que uma boa gestão de riscos que tenha como estratégia habilitar ideias e estruturas a irem além! (pois as que previnem em excesso, até mesmo a receita de uma Empresa, já temos bastante no mercado).

O uso deste tipo de tecnologia, impacta em diversas formas e é visto como um diferencial competitivo ou mesmo a sobrevivência de muitas Companhias. Mas o uso pode também causar impactos severos a perenidade da sua Empresa, principalmente, se princípios básicos de uso de dados e transparência não estiverem presentes.

Mas na prática, quais ameaças podem gerar algum impacto no seu negócio com o uso de IA?

Aspectos legais e jurídicos: Recentemente, uma das maiores redes sociais enfrentou restrições no Brasil devido à falta de transparência no uso de dados dos usuários. Isso levanta a questão: quais riscos sua empresa corre atualmente em relação ao uso de dados pessoais?

Ciladas comerciais: O aumento de “especialistas” em IA, que prometem soluções milagrosas, pode levar a investimentos em projetos que não trazem retornos tangíveis. É fundamental realizar estudos laboratoriais adequados antes de embarcar em iniciativas que podem resultar em custos elevados sem garantias de sucesso.

Marco civil em discussão: A regulamentação da IA está em pauta no Congresso, e as empresas devem se preparar para adequações que podem elevar custos. Antecipar essas mudanças pode minimizar impactos financeiros e operacionais.

Sabotagem interna: A implementação de novas tecnologias pode gerar insegurança entre os funcionários, levando a sabotagens que atrasam o progresso e a eficiência operacional.

Perda de conhecimento e propriedade pelos próprios códigos e produtos digitais

Durante algumas experiências utilizando tecnologias de inteligência artificial em esteiras de desenvolvimento, notou-se a perda de conhecimento e propriedade de alguns times de engenharia sobre os códigos dos quais eles eram responsáveis. Notou-se que a agilidade e ganho de tempo na criação dos códigos utilizando auxílio de IA, passaram a ser custosas na identificação de BUGs ou mesmo integração por desconhecimento dos times de como o código havia sido criado (pois a IA havia criado para os profissionais).

Intensificação da desinformação e/ou tomadas de decisão com base em dados com baixa integridade:

IA se alimenta por dados, e os dados que alimentamos o algoritmo se estiverem equivocados, não íntegros ou mesmo incorretos, levará a plataforma a dar respostas imprecisas ou mesmo incorretas, levando times a perder mais tempo revisitando as respostas dadas pela IA ou até mesmo tomando decisões indevidas com base nas informações trazidas pelas plataformas. Se os dados de sua empresa não apresentam maturidade suficiente para dar respostas hoje, fique atento com o uso de IA, pois isso poderá potencializar os danos causados pela falta de integridade das informações.

Aumento dos impactos associados a decisões realizadas sem análise por um profissional especializado:

A inteligência artificial poderá ajudar no diagnóstico médico por exemplo, mas o uso deste tipo de tecnologia neste contexto deve ser um apoio e não um fator de decisão final, pois coloca a vida humana em risco. E este é um dos tipos de cenário que deveria ser coberto por um marco civil, ou seja, o uso de qualquer tecnologia de inteligência que possa colocar a vida humana em risco deverá obrigatoriamente ter um humano responsável e jamais tomar decisões sem esse profissional nominalmente presente. Porém, mesmo neste cenário, poderemos encontrar decisões eficientes neste e em outros setores, porém sem eficácia o que poderia aumentar os impactos até a vida humana.

Este são alguns exemplos que podemos antecipar e criar mecanismos de viabilização do uso da tecnologia de forma a diminuir a exposição da Empresa, produto ou cliente de forma a manter o diferencial do uso e a perenidade da Companhia de forma a navegar pelos mares “barulhentos” do hype da IA de forma a não sofrer com um iceberg inesperado que leve a empreitada a naufragar.

Com riscos inerentes bem claros e mapeados e com um mindset de viabilização, os mecanismos são co-construídos em tempo de ideação ou de montagem das histórias, participação integrada ao planejamento da empreitada, ponderando os riscos e construindo mecanismos de gerenciamento.

Da mesma forma que se constrói um novo carro do zero, da mesma forma que se pensa em velocidade, pensa-se na segurança dos passageiros, credibilidade do produto com segurança e boa experiência.

Na prática, uma sugestão seria este modelo processual de referência:

Ideia e objetivos com o uso de IA > métricas de sucesso > Riscos inerentes associados ao contexto de uso > Métodos de gerenciamento e revisão dos objetivos por etapa > Apetite a risco > Controles primários e desejáveis > Risco residual por fase de lançamento VS métricas de sucesso > lançamento faseado com medição de impacto Vs sucesso VS risco residual.

A adoção da IA deve ser feita com cautela e planejamento. Com uma “bússola de riscos” bem definida, as empresas podem navegar pelas incertezas e maximizar as oportunidades oferecidas pela tecnologia, garantindo não apenas um diferencial competitivo, mas também a perenidade do negócio em um ambiente em constante mudança.