¿Aprender a preguntar con Prompt Engineering? – Entrevista al Ing. Peter Montalvo
La mayoría de las personas ha utilizado por curiosidad una herramienta de inteligencia artificial conversacional como el ChatGPT. Sin embargo, a veces, las respuestas que nos brinda no son las que esperamos. Por ello, en esta oportunidad nos acompaña el docente del departamento de Ingeniería, Ing. Peter Montalvo, quien nos comentará sobre el Prompt Engineering, herramienta para saber cómo preguntar correctamente y utilizar estos modelos a nuestro favor.
- ¿Qué es Prompt Engineering?
El Promt Engineering es un conjunto de herramientas y técnicas de afinamiento de palabras que son utilizadas en modelos conversacionales como ChatGPT que permiten tener una respuesta acorde a lo que yo necesito. Es saber cómo preguntarle a la herramienta digital.
- ¿Por qué es importante saber cómo preguntar en una herramienta de inteligencia artificial?
Se podría comparar una herramienta de inteligencia artificial a una “bestia sin domar”. Necesitamos saber qué queremos y cómo lo queremos para que la herramienta nos brinde los resultados que esperamos. Un problema es que a veces nos dará resultados aleatorios o imprecisos, por ello si logramos ser concisos y a la vez precisos con lo que necesitamos, este dará mejores resultados
- ¿Existe alguna técnica específica para lograrlo?
Hay 4 formas especiales para lograrlo. Una es el manejo de roles, donde le indico que tenga un comportamiento, por ejemplo, como un estudiante o profesor. Otra es mostrarle, en base a pequeños ejemplos de preguntas y respuestas, lo que requiero (few shot). Asimismo, también se puede lograr a partir de un contexto. Es decir, se le da uno inicial de una situación al modelo para que pueda entender de qué forma quiero las respuestas. Otro parámetro es la temperatura, que se refiere al nivel de creatividad del modelo. A menor temperatura, el modelo dará una respuesta concisa en un sistema determinista, y a mayor temperatura, la respuesta será más creativa. Por ejemplo, si pregunto por una receta de un postre ajustado a baja temperatura, el modelo me dará una respuesta directa. En cambio, si ajusto el modelo a una temperatura mayor, la receta me la podría dar en un formato de poesía.
- ¿Cuál es el desafío más grande de Prompt Engineering?
La formulación de una pregunta debe ser clara. Muchas veces si no efectuamos el Prompt Engineering, el modelo puede dar respuestas que no están relacionadas a lo indicado y se puede caer en las alucinaciones. Los modelos conversacionales tienen algo llamado alucinaciones que se basan en que la herramienta. Al no tener suficiente información para responder rellenará los vacíos con información aleatoria.
- ¿Es necesario tener una formación en ingeniería informática para poder aprender?
No, pero es recomendable entender que este es un modelo generacional, que la información brindada es data entrenada que puede estar sesgada en algunos casos. Además, siempre es importante saber el origen de la información. Por otro lado, se deben entender los fundamentos pero no se requiere tener una carrera completa en ingeniería informática para utilizarlo.
