El manual del desarrollador para la seguridad de los modelos de lenguaje de gran tamaño
by Steve Wilson
Capítulo 11. Confía en el proceso
Este trabajo se ha traducido utilizando IA. Agradecemos tus opiniones y comentarios: translation-feedback@oreilly.com
Si no puedes describir lo que haces como un proceso, no sabes lo que haces.
W. Edwards Deming
Hemos dedicado la mayor parte de este libro a explorar los peligros de aplicar la tecnología LLM en la producción. Aunque hay un gran poder en la tecnología, también hay muchos riesgos. Los riesgos de seguridad, privacidad, financieros, legales y de reputación parecen estar a la vuelta de cada esquina. Con este conocimiento, ¿cómo puedes avanzar con confianza? Es hora de hablar de soluciones procesables, duraderas y repetibles. Aunque hemos hablado de estrategias prácticas de mitigación para cada riesgo, abordarlas individualmente como un mosaico probablemente no sea suficiente. Debes incorporar la seguridad a tu proceso de desarrollo para garantizar tu éxito.
Este capítulo tratará dos elementos del proceso que han surgido como ingredientes clave en los proyectos de éxito. En primer lugar, hablaremos de la evolución del movimiento DevSecOps y de cómo se ha convertido en un elemento central de la seguridad de las aplicaciones para cualquier gran proyecto de software. Examinaremos cómo ha evolucionado para abarcar retos específicos con IA/ML y LLMs. Como parte de este debate, examinaremos las herramientas de desarrollo para buscar vulnerabilidades de seguridad y las herramientas de ejecución (conocidas como guardrails) que pueden ayudar ...
Become an O’Reilly member and get unlimited access to this title plus top books and audiobooks from O’Reilly and nearly 200 top publishers, thousands of courses curated by job role, 150+ live events each month,
and much more.
Read now
Unlock full access