A crescente adoção da inteligência artificial (IA) está a transformar profundamente os modelos de negócio, trazendo novas oportunidades mas também desafios significativos que muitas organizações ainda não conseguem avaliar na sua totalidade. Foi neste enquadramento que a WTW, empresa global de consultoria, corretagem e soluções, realizou o seu mais recente webinar da série «Risk Insights Talks», dedicado à compreensão e à gestão dos riscos associados à IA.
Destacando a urgência de as organizações compreenderem o impacto da IA e adotarem estratégias eficazes de gestão de risco num contexto tecnológico cada vez mais complexo, a sessão contou com a participação de Fernando Sevillano, head para Cyber & Tech Consulting da WTW para a Europa Ocidental, enquanto orador, e com a moderação de Luís Teixeira, senior director de Business Development da empresa. Ao longo da sessão, foi apresentada uma visão clara e estruturada sobre o ecossistema da IA, incluindo os principais intervenientes do mercado e os modelos fundacionais que estão a liderar esta transformação tecnológica.
Um dos pontos centrais da discussão foi a clarificação do que constitui – e do que não constitui – um sistema de IA, tendo em conta as mais recentes definições regulatórias, nomeadamente a lei europeia de IA – EU AI Act. A sessão também abordou o ciclo de vida dos sistemas de IA, identificando os diferentes intervenientes e destacando a importância de compreender cada fase para uma gestão de risco eficaz.
Fernando Sevillano referiu: «Num cenário em que a inteligência artificial está a ser integrada de forma transversal nas operações, as organizações não podem limitar-se a adotar tecnologia – têm de compreender profundamente os riscos associados e implementar mecanismos robustos de governação e controlo. Só assim será possível garantir uma adoção sustentável, segura e alinhada com os requisitos regulatórios.»
Os riscos da IA
Foi igualmente apresentada uma taxonomia prática dos riscos associados à IA, com enfoque nos large language models (LLMs) e nas suas aplicações, cada vez mais presentes nas operações empresariais. Neste contexto, foram exploradas metodologias de avaliação qualitativa e quantitativa do risco, bem como medidas concretas de mitigação.
Entre os principais riscos identificados pela WTW, destacam-se a discriminação e os conteúdos tóxicos gerados por sistemas de IA, a produção e a amplificação de desinformação, as falhas de privacidade e segurança, incluindo exposição de dados, e os riscos técnicos relacionados com falhas, limitações ou comportamentos inesperados dos sistemas.
Adicionalmente, os riscos de utilização maliciosa da IA (como fraude ou ciberataques), os impactos socioeconómicos e ambientais, os desafios na interação entre humanos e máquinas (como a confiança excessiva nos sistemas) e as lacunas de governação, nomeadamente no cumprimento de requisitos regulatórios e na documentação adequada, foram identificados como sendo fatores de preocupação para as empresas.
Fernando Sevillano assinalou ainda: «O papel da transferência de risco como instrumento estratégico para reforçar a resiliência organizacional tornou-se fundamental, especialmente num cenário em que a IA deixou de ser uma opção e passou a ser uma realidade operacional incontornável. Apenas uma abordagem estruturada e objetiva do impacto da IA nas organizações permitirá antecipar riscos, salvaguardar operações e assegurar uma adoção tecnológica sustentável.»
A WTW
A WTW disponibiliza soluções analíticas orientadas para os dados nas áreas das pessoas, do risco e do capital. Com presença em mais de 140 países e mercados, a empresa recorre à sua visão global como multinacional e à experiência local dos seus profissionais para ajudar os clientes a moldar a sua estratégia, melhorar a sua resiliência organizacional, motivar as suas equipas e maximizar o seu desempenho. Trabalhando em estreita colaboração com os seus clientes, a WTW descobre oportunidades de sucesso sustentável e fornece a visão que os impulsiona.