¿Qué podemos hacer para mejorar los prompts? ¿Qué se necesita para ser un buen prompt engineer? ¿Es necesario contar con una formación específica? ¿Cómo son en definitiva los ingenieros del prompt, capaces de crear imágenes alucinantes u obtener información de auténtico valor en una auténtica montaña de datos? Algunas de las claves os las contamos hace unos meses en «Prompt Engineer: qué es y qué habilidades necesitas para convertirte en uno»
Pero más allá de que ese sea nuestro perfil profesional o que queramos formarnos para mejorar nuestras habilidades en ese campo, lo cierto es que cualquier persona puede mejorar la forma en la que se relaciona con la Inteligencia Artificial Generativa, teniendo en cuenta algunos consejos que le pueden ayudar a, de forma sencilla, mejorar de forma radical los resultados que obtiene en sus peticiones.
En cualquier petición que hagamos a un algoritmo de IA Generativa, importa y mucho, el contexto. ¿Y qué entendemos por contexto? El ser capaces de incluir toda la información relevante, desde detalles cruciales hasta cualquier instrucción adicional que pueda mejorar la calidad de la respuesta.
Así, no es lo mismo que la petición de información se produzca en el contexto de la atención médica, las finanzas o el desarrollo de software. Y en realidad, cuanto más específica sea la petición, mejores serán los resultados. Si necesitamos ayuda con un problema de ingeniería, no es lo mismo que la solicitud esté relacionada con ingeniería eléctrica, industrial, o de telecomunicaciones; y cambia si lo que precisamos es recopilar material «histórico», o lo que esperamos es una respuesta orientada «hacia el futuro».
La precisión e incluso la exhaustividad del contexto en el que realizamos la petición son claves para obtener un resultado óptimo.
Contexto General:
Contexto Específico:
Además de ofrecer el contexto adecuado, también es necesario ser capaz de ser preciso a la hora de definir qué es lo que queremos preguntar, incluyendo en el prompt incluso más detalles de los que crees que es necesario aportar.
Podemos especificar por ejemplo, qué tipo de cálculo esperamos que el LLM lleve a cabo con la información que vamos a aportar, qué tipo de datos va a necesitar para realizar ese cálculo o de qué forma lo hemos hecho en el pasado utilizando otras herramientas. Podemos aportar más información sobre el proyecto en el que estamos trabajando (contexto, una vez más) o «series históricas» de proyectos similares.
Pregunta general:
Pregunta específica:
Incorpora a tu prompt las limitaciones o las restricciones que debería tener en cuenta, como por ejemplo el número de palabras aproximado que esperas obtener, el marco temporal en el que el LLM debería buscar y otros criterios que deberían ser tenidos en cuenta.
Teniendo en cuenta la enorme cantidad de información con la que trabajan estos modelos, el no incorporar restricciones provoca por un lado, que la respuesta nos ofrezca más información de la que necesitamos y por otra, que esta pueda estar «viciada» con fuentes que no nos interesan.
Sin limitaciones específicas:
Con limitaciones específicas:
Algunos modelos de lenguaje artificial pueden adaptar el tono de su respuesta en función del «User-Persona». Es decir, podemos indicar que rol o papel debe adoptar la «supuesta persona» que nos está dando la respuesta.
Puede ser un tono informal, humorístico, técnico…pero también puede asumir el papel de perfiles específicos como puede ser el de un ingeniero de sistemas, un profesor de primaria, o el CEO de Google. Al ser específicos en el estilo en el que deseamos obtener la respuesta, mejoraremos la calidad de la información con la que vamos a trabajar.
Sin especificar el Tono o User-Persona:
Especificando el Tono o User-Persona:
Los valores Top-K y Top-P son técnicas utilizadas para controlar la generación de texto en modelos de lenguaje. Estos valores son parámetros que afectan la diversidad y la probabilidad de las palabras generadas.
Top-K: En el método Top-K, el modelo selecciona las ? palabras más probables en cada paso de la generación de texto. Podemos ajustar el valor de ? según nuestras necesidades. Un valor más alto permitirá más diversidad, mientras que un valor más bajo conducirá a una generación más determinista. Así un valor entre 1 y 5 nos ofrece una respuesta centrada y concisa, entre 5 y 10 obtendremos una respuesta equilibrada y por encima de 20, la respuesta será especialmente creativa.
Sin especificar Top-K:
Especificando Top-K:
Top-P: En el método Top-P (también conocido como «núcleo de probabilidad acumulativa» o «núcleo de pena acumulativa»), el modelo selecciona palabras hasta que la probabilidad acumulativa supere un cierto umbral ?, lo que significa que el modelo elige entre las palabras más probables hasta que la suma de sus probabilidades alcance o supere ?.
Un valor más alto permite más diversidad, mientras que un valor más bajo genera texto más determinista(en rangos que van desde el 0.0 para la respuesta más formal y menos creativa, al 1.0 para obtener una respuesta casi aleatoria).
Sin especificar Top-P:
Especificando Top-P:
En última instancia los mejores prompts pasan por un proceso de prueba y error, que hay que trabajar de forma constante.
Una buena idea es probar con aproximaciones diferentes para intentar dar respuesta a un mismo problema, de modo que podamos analizar qué es lo que mejor funciona y cómo podemos seguir construyendo nuestro modelo de prompt para llevar a cabo tareas específicas.
Incluso si consideramos que las respuestas que estamos obteniendo son las adecuadas, nada nos impide seguir refinando el modelo, añadiendo nuevos parámetros o profundizar en el contexto, de modo que las respuestas que obtengamos sean aún más relevantes.