Capítulo 3. Segurança e proteção da IA generativa
Este trabalho foi traduzido com recurso a IA. Agradecemos o teu feedback e comentários: translation-feedback@oreilly.com
O objetivo de um quadro eficaz de segurança e proteção não é parar a inovação da IA; é aumentar a entrega de projetos de IA de qualidade que atendam às soluções de compromisso risco/recompensa adequadas.
A confiança surgiu como um importante obstáculo à adoção de aplicações de IA generativa, em parte para as aplicações de consumo, mas sobretudo para as empresas. Nesta secção, examinamos os elementos da confiança e apresentamos sugestões e técnicas para atenuar danos como os danos à reputação, a fuga de dados ou questões de conformidade regulamentar.
É muito importante compreender que só podemos mitigar os riscos, mas nunca eliminá-los. No momento em que escrevemos este artigo, no início de 2025, mesmo as mais recentes aplicações de IA generativa de última geração, como o ChatGPT-4o e os geradores de imagens equivalentes, foram todas pirateadas ou desbloqueadas, e o código para o fazer foi amplamente partilhado.
O benefício de LLMs de fácil acesso também levou a uma proliferação do uso de IA que muitas vezes não é detectada e não é gerida. Muitas empresas não têm forma de detetar quais os modelos que estão a ser executados, a que informações os modelos têm acesso e quais os riscos existentes.
Para uma empresa, os danos à reputação que seriam causados por uma divulgação pública de um assistente "de confiança" de ...
Become an O’Reilly member and get unlimited access to this title plus top books and audiobooks from O’Reilly and nearly 200 top publishers, thousands of courses curated by job role, 150+ live events each month,
and much more.
Read now
Unlock full access