Artigo

Inteligência Artificial generativa e segurança: factos e desafios

27 de Outubro 2023

Tempo de leitura: 5min

Quando falamos de Inteligência Artificial generativa concentramos a nossa atenção na rapidez e qualidade que pode trazer às empresas, esquecendo que a segurança pode fazer toda a diferença no resultado final.

Com o objectivo de inovar e ganhar vantagem competitiva, as organizações estão cada vez mais convencidas do potencial da Inteligência Artificial generativa. Esta tecnologia, que utiliza algoritmos para criar novos conteúdos – imagens, texto, áudio… – tem o potencial de revolucionar a gestão de empresas, em várias áreas. No entanto, para lá de tudo aquilo que a IA generativa tem para oferecer, surgem desafios significativos no que diz respeito à segurança na sua utilização.

Os desafios da segurança

Sim, é verdade: apesar de todas as suas vantagens, a IA generativa também apresenta desafios no que à segurança diz respeito. Um dos principais problemas é a capacidade de poderem criar conteúdo errado ou prejudicial. Por exemplo, pode ser usada para criar imagens ou notícias falsas, que não se conseguem distinguir das reais, algo que pode ser usado para disseminar desinformação, propaganda ou conteúdo ofensivo. Além disso, levanta preocupações sobre a protecção de informação e dados confidenciais, o que exige continuamente o desenvolvimento de técnicas de verificação e autenticidade, implementação de protocolos de segurança rigorosos para proteger os utilizadores da sua utilização indevida.

Segurança gera confiança? Para a Cris, sim.

A integração do software PHC com a Microsoft API Azure OpenAI oferece segurança e confiança, de acordo com as políticas definidas pela integração. A “conversa” com o chat externo – fora do software – remete a conformidade e funcionalidade para fora desta integração, dado que não é controlado pela PHC Software. A escolha depende de equilibrar conveniência, produtividade e o investimento necessário.

Atenção: Quanto aos termos de privacidade e conformidade dos chats externos, o cliente deve sempre ler os termos de utilização dos mesmos. Existem muitos, e alguns com várias opções a ter em conta.

Com esta integração, podemos afirmar que as respostas da Cris:

✅ Não estão disponíveis para outros clientes;

✅ Não estão disponíveis para a OpenAI;

✅ Não são utilizados para melhorar os modelos OpenAI;

✅ Não servem para melhorar quaisquer produtos ou serviços da Microsoft ou de terceiros.

Recapitulando: o que é IA generativa?

IA generativa são sistemas de IA capazes de criar novos conteúdos, ao invés de apenas interpretar ou classificar dados existentes como acontecia até aqui. Esses sistemas são treinados com grandes conjuntos de dados e aprendem a gerar conteúdo original. Por exemplo, um modelo de IA generativa pode criar novos conteúdos para o blog da empresa sobre temas de gestão, tendo sido treinado com exemplos de artigos anteriores, para escrever no mesmo estilo.

Os benefícios da IA generativa

Os benefícios potenciais da IA generativa são vastos. Ela pode ser usada para criar conteúdo original e personalizado numa variedade de contextos, desde a publicidade até ao design gráfico ou à edição de imagem. Além disso, a IA generativa pode ainda acelerar o processo de inspiração e criação, dando sugestões valiosas a escritores, criadores de conteúdo, técnicos ou empresários.

PHC CS GenAI — A Cris em ação, no PHC CS.

∴

A IA generativa traz com ela alguns desafios em relação à segurança. As empresas podem aumentar os benefícios da IA generativa enquanto mitigam os riscos potenciais.

Ao fazê-lo, constroem confiança não apenas na tecnologia, mas também na capacidade de utilizá-la de forma responsável e ética para impulsionar o progresso e a inovação, factos que tornam ainda mais importante, a empresa que escolhe ter ao seu lado.