A Inteligência Artificial já tornou possível criar, em poucos segundos:
- imagens de acontecimentos que nunca existiram
- vídeos aparentemente autênticos
- vozes sintéticas muito realistas
- textos difíceis de distinguir de conteúdos humanos
- deepfakes cada vez mais sofisticados
Ou seja, tornou-se possível reproduzir a voz de uma pessoa, criar uma fotografia falsa ou gerar um vídeo de alguém a dizer algo que nunca disse.
À medida que estas ferramentas se tornam mais acessíveis, surge uma pergunta essencial: como saber em que podemos confiar? É precisamente neste contexto que surge o AI Act da União Europeia, o primeiro enquadramento regulatório abrangente para a utilização de Inteligência Artificial. Mais do que regular tecnologia, esta legislação procura proteger um elemento essencial da economia digital: a confiança.
A nova era da transparência
O AI Act introduz obrigações de transparência para determinadas utilizações de IA.
Na prática, isto significa que os utilizadores deverão ser informados quando estão a interagir com sistemas de Inteligência Artificial, como:
- chatbots
- assistentes virtuais
- sistemas automatizados de resposta
- determinados conteúdos sintéticos ou manipulados por IA
Também os deepfakes e certos conteúdos gerados artificialmente terão de ser identificados de forma clara, nas situações previstas pela legislação. O objetivo não é limitar a inovação. O objetivo é garantir que as pessoas têm informação suficiente para compreender quando estão perante conteúdo gerado ou alterado artificialmente.
Porque é que isto é importante?
Vivemos num ambiente digital onde a informação circula à velocidade de um clique. E, nesse contexto, verificar a autenticidade de conteúdos tornou-se cada vez mais difícil.
Os riscos são reais:
- uma imagem manipulada pode afetar a reputação de uma marca
- um vídeo falso pode influenciar a opinião pública
- uma voz sintética pode ser utilizada em fraude ou engenharia social
- um conteúdo aparentemente credível pode espalhar desinformação
À medida que a IA se torna mais poderosa, a transparência deixa de ser apenas uma questão ética.
Passa a ser uma condição fundamental para preservar a confiança entre:
- organizações
- colaboradores
- clientes
- parceiros
- cidadãos
O que muda para as empresas?
Para muitas organizações, a utilização de IA já faz parte do dia a dia.
Está presente em áreas como:
- criação de conteúdos
- apoio ao cliente
- marketing
- análise de dados
- recrutamento
- automatização de processos
Neste contexto, a transparência deixará de ser apenas uma boa prática reputacional.
Passará a ter uma relevância crescente ao nível de:
- conformidade regulatória
- gestão de risco
- proteção da marca
- relação com clientes e stakeholders
- governance interna de IA
As empresas que começarem desde já a definir políticas claras para a utilização de IA estarão mais preparadas para responder às novas exigências regulatórias e às expectativas do mercado.
O verdadeiro desafio não é apenas tecnológico
A discussão sobre Inteligência Artificial é muitas vezes centrada nas capacidades da tecnologia. Mas o desafio mais importante poderá ser outro. Num mundo onde qualquer conteúdo pode ser gerado, alterado ou replicado artificialmente, a diferenciação deixará de estar apenas na capacidade de criar informação. Estará na capacidade de demonstrar a sua autenticidade.
A próxima fase da transformação digital não será apenas sobre Inteligência Artificial. Será sobre confiança digital. E essa confiança poderá tornar-se um dos ativos mais valiosos para qualquer organização.
