Modelos de lenguaje grandes: las partes difíciles (Spanish Edition)

Capítulo 4. De los datos al contexto

Este trabajo se ha traducido utilizando IA. Agradecemos tus opiniones y comentarios: [e-mail]

Un jonrón es mucho mejor que dos dobles.

Steve Jobs

Ya hemos visto varias metodologías y herramientas para medir el rendimiento de los LLMBA, los modelos y los prompts. Nos hemos centrado en evaluar los resultados, o salidas. En otras palabras, nos hemos centrado en las respuestas textuales generadas por nuestros LLMBA.

En este capítulo, dejamos de lado los resultados y nos enfocamos en los datos que se le pasan a esos LLMBA, específicamente la entrada textual no estructurada, que se convierte en contexto una vez que se le pasa a nuestros LLMs. El contexto es un concepto súper importante en el mundo de los LLMs. Es lo que se une con un prompt y un modelo para formar un LLMBA, y es lo que le permite a nuestra aplicación responder una pregunta o hacer una tarea basándose en la verdad.

Si bien los avances en los modelos de lenguaje de contexto largo han ampliado la cantidad de información que los LLMs pueden procesar (como veremos más adelante en este capítulo), siguen existiendo retos importantes en la gestión y el uso eficaz de entradas de datos extendidas:

• Los LLMs son sensibles al formato y la estructura de la entrada, por lo que requieren una preparación cuidadosa de los datos para lograr resultados óptimos.¹

• Los LLMs operan con límites de conocimiento, lo que puede proporcionar información potencialmente desactualizada ...