Os 5 maiores riscos da IA generativa, segundo um especialista
A IA torna nossas vidas mais fáceis de muitas maneiras diferentes. No entanto, esses benefícios podem trazer custos.
IAs generativas, como ChatGPT, revolucionaram a forma como interagimos e vemos a IA. Atividades como escrever, programar e candidatar-se a empregos tornaram-se muito mais fáceis e rápidas. Com todos os aspectos positivos, no entanto, existem alguns riscos bastante sérios.
Uma grande preocupação com a IA é a confiança e a segurança, o que até fez com que alguns países banissem completamente o ChatGPT como um todo ou reconsiderassem as políticas em torno da IA para proteger os utilizadores de danos.
Além disso: Essa nova tecnologia pode acabar com o GPT-4 e tudo o mais
De acordo com Avivah Litan, analista do Gartner, alguns dos maiores riscos da IA generativa dizem respeito à confiança e à segurança e incluem alucinações, deepfakes, privacidade de dados, questões de direitos autorais e problemas de segurança cibernética.
1. Alucinações
As alucinações referem-se aos erros que os modelos de IA estão propensos a cometer porque, embora sejam avançados, ainda não são humanos e dependem de treinamento e dados para fornecer respostas.
Se você usou um chatbot de IA, provavelmente já teve essas alucinações devido a um mal-entendido em sua solicitação ou a uma resposta flagrantemente errada à sua pergunta.
Litan diz que os dados de treinamento podem levar a respostas tendenciosas ou factualmente incorretas, o que pode ser um problema sério quando as pessoas dependem desses bots para obter informações.
“Os dados de treinamento podem levar a respostas tendenciosas, erradas ou erradas, mas podem ser difíceis de detectar, especialmente porque as soluções são cada vez mais confiáveis e confiáveis”, diz Litan.
2. Falsificações profundas
Um deepfake usa IA generativa para criar vídeos, fotos e gravações de voz que são falsos, mas que capturam a imagem e semelhança de outro indivíduo.
Exemplos perfeitos são a foto viral gerada por IA do Papa Francisco em uma jaqueta inflável ou a música de Drake and the Weeknd gerada por IA, que atraiu centenas de milhares de streams.
“Essas imagens, vídeos e gravações de voz falsas têm sido usadas para atacar celebridades e políticos, para criar e divulgar informações enganosas e até mesmo para criar contas falsas ou assumir o controle e invadir contas legítimas existentes”, diz Litan.
Tal como as alucinações, os deepfakes podem contribuir para a disseminação massiva de conteúdos falsos, levando à disseminação de desinformação, o que é um grave problema social.
3. Privacidade de dados
A privacidade também é uma grande preocupação com a IA generativa, uma vez que os dados do usuário são frequentemente armazenados para treinamento de modelos. Essa preocupação foi o fator abrangente que levou a Itália a proibir o ChatGPT, alegando que a OpenAI não estava legalmente autorizada a coletar dados do usuário.
“Os funcionários podem expor facilmente dados corporativos confidenciais e proprietários ao interagir com soluções generativas de chatbot de IA”, diz Litan. “Essas aplicações podem armazenar indefinidamente informações capturadas por meio de entradas do usuário e até mesmo usar informações para treinar outros modelos - comprometendo ainda mais a confidencialidade”.
Litan destaca que, além de comprometer a confidencialidade do usuário, as informações armazenadas também apresentam o risco de “cair em mãos erradas” em caso de violação de segurança.
4. Cibersegurança
As capacidades avançadas dos modelos generativos de IA, como a codificação, também podem cair em mãos erradas, causando preocupações de segurança cibernética.
“Além da engenharia social mais avançada e das ameaças de phishing, os invasores poderiam usar essas ferramentas para facilitar a geração de códigos maliciosos”, diz Litan.
Litan diz que embora os fornecedores que oferecem soluções generativas de IA normalmente garantam aos clientes que os seus modelos são treinados para rejeitar solicitações maliciosas de segurança cibernética, estes fornecedores não equipam os utilizadores finais com a capacidade de verificar todas as medidas de segurança que foram implementadas.
5. Questões de direitos autorais
Os direitos autorais são uma grande preocupação porque os modelos generativos de IA são treinados em grandes quantidades de dados da Internet que são usados para gerar um resultado.
Este processo de formação significa que trabalhos que não foram explicitamente partilhados pela fonte original podem então ser usados para gerar novos conteúdos.
Os direitos autorais são uma questão particularmente espinhosa para qualquer forma de arte gerada por IA, incluindo fotos e músicas.
Para criar uma imagem a partir de um prompt, ferramentas de geração de IA, como o DALL-E, farão referência ao grande banco de dados de fotos nas quais foram treinadas. O resultado deste processo é que o produto final pode incluir aspectos do trabalho ou estilo de um artista que não lhe são atribuídos.
Como os trabalhos exatos nos quais os modelos de IA generativa são treinados não são divulgados explicitamente, é difícil mitigar essas questões de direitos autorais.
O que vem a seguir?
Apesar dos muitos riscos associados à IA generativa, Litan não acredita que as organizações devam parar de explorar a tecnologia. Em vez disso, devem criar uma estratégia para toda a empresa que vise a confiança, o risco e a gestão da segurança da IA.
“Os criadores de IA devem trabalhar urgentemente com os decisores políticos, incluindo novas autoridades reguladoras que possam surgir, para estabelecer políticas e práticas para a supervisão generativa da IA e a gestão de riscos”, afirma Litan.