A Empresa Agente (Portuguese Edition)

Capítulo 7. Criando sistemas confiáveis

Este trabalho foi traduzido com recurso a IA. Agradecemos o teu feedback e comentários: [e-mail]

O Capítulo 6, disponível em, abordou os detalhes práticos de como criar e operar sistemas multiagentes com segurança no dia a dia — medidas de proteção, agentes de moderação, gestão da incerteza e botões de desativação. Neste capítulo, vamos nos concentrar na questão que esses mecanismos realmente tentam responder: quando e em que condições as pessoas e as organizações devem confiar que agentes autônomos ajam em seu nome.

Os agentes servem aos humanos. No entanto, como a natureza humana é assim mesmo, as pessoas têm dificuldade em confiar em máquinas — ou mesmo em outras pessoas — nas quais não confiam. A confiança, ou a falta dela, não é um tema novo na tecnologia; há muito tempo ela fascina tanto a sociedade quanto o cinema.

O filme “2001: Uma Odisséia no Espaço ” (1968), de Stanley Kubrick, retratou as complexidades das relações entre humanos e máquinas por meio das interações tensas entre o HAL, um computador HAL 9000 “com personalidade humana”, e a tripulação da nave espacial, incluindo Dave Bowman, o comandante da missão — a quem o HAL se dirige com a já famosa saudação: “Olá, Dave”. Quando o HAL, encarregado das operações da nave, é suspeito de cometer um erro, a perda de confiança da tripulação faz com que o próprio HAL passe a desconfiar deles, o que acaba levando a um confronto mortal (alerta de spoiler).

Mais ...