Capítulo 6. Governando a IA
Este trabalho foi traduzido com recurso a IA. Agradecemos o teu feedback e comentários: translation-feedback@oreilly.com
A tecnologia é moralmente neutra até que a apliquemos.
William Gibson
A tecnologia de IA se tornou o adjetivo mais popular entre organizações e produtos. Grande parte disso é puro hype, certamente, mas é verdade que mais empresas estão de fato tentando aproveitar seus dados e criar algo útil usando os últimos avanços da IA. Assim como a transformação digital, a transformação da IA é real e está acontecendo.
O maior desafio, no entanto, é criar um sistema baseado em IA que seja totalmente governado e seguro. Você pode ter experimentado isso em primeira mão: Os projetos de IA, mesmo os simples e clássicos baseados em ML, podem ser difíceis de produzir. Isso geralmente ocorre porque as origens típicas de tais projetos remontam aos laptops dos cientistas de dados ou engenheiros de ML/IA, que normalmente se concentram mais nos aspectos matemáticos e estatísticos do projeto e menos em como implantá-los. Na maioria dos projetos de IA, a segurança costuma ser uma reflexão tardia, e os aspectos de governança são inexistentes. Além disso, com os avanços nas ofertas de IA generativa (GenAI), principalmente os modelos GPT da OpenAI, surgiram novos desafios de segurança e governança.
Alguns desses desafios parecem cômicos. Em 18 de janeiro de 2024, um usuário do X (antigo Twitter) publicou sua conversa com um chatbot de atendimento ao cliente ...
Become an O’Reilly member and get unlimited access to this title plus top books and audiobooks from O’Reilly and nearly 200 top publishers, thousands of courses curated by job role, 150+ live events each month,
and much more.
Read now
Unlock full access