Open AI te da acceso desde PlayGround a sus modelos Codex, Content Filter y cuatro versiones de GPT3.
Antes de lanzarte a probar GPT3 te recomiendo que dediques un rato a conocer los aspectos básicos de su funcionamiento.
Al darte de alta OpenAi te ofrecerá 18$ de crédito para que pruebes sus herramientas. Una vez consumido el crédito (tienes 3 meses para consumirlo) te cobrará en función del modelo y del uso que hagas de él.
Índice del post
Model:
Es el “programa” que utilizas para procesar tu promt. A día de hoy GPT-3 ofrece 4 versiones (models): Davinci, Curie, Babbage y Ada.
1. Davinci es el modelo mejor entrenado por OpenAI. Ofrece un mayor nivel de comprensión. Es más lento y más caro. Es el más recomendable si quieres que GPT 3 te ayude con…
- La creación de contenido y/o generación de textos originales: posts, artículos, reseñas, ensayos…
- Realización de resúmenes, extracción de temas y entidades en un texto, traducciones…
- El modelo Davinci puede ser utilizado para crear chatbots y asistentes virtuales que respondan de manera coherente a preguntas y solicitudes complejas de los humanos…
2. Curie no es tan hábil como Davinci generando textos pero es bastante más rápido y barato. Sus resultados requieren una mayor corrección “humana”.
3. Babbage es útil si necesitas generar textos cortos (una respuesta de pocas líneas) o resúmenes.
4. Ada es el modelo menos entrenado de los 4. Es la alternativa más rápida y barata de GPT-3.
Prompt:
Es tu pedido (el imput de entrada) a GPT-3
Token:
Es una unidad de medida que corresponde a 4 caracteres (aprox. 0,75 palabras escritas en inglés). El coste de utilizar GPT-3 dependerá del modelo que elijas y el número de tokens a procesar.
Para que te hagas una idea, por una respuesta de 750 palabras (1000 tokens) OpenAi te cobrará 0.02$ si usas Davinci. Si recurres a Ada 0,0004$.
Fine Tuning:
Los modelos permiten hacer un “ajuste fino” de la herramienta. Personalizando su ejecución puedes lograr resultados de mayor calidad, más rapidez en la ejecución y ahorro de tokens.
Por ejemplo, los distintos niveles de Temperatura hacen que la respuesta del modelo sea más o menos creativa (fantasiosa), más rica o repetitiva.
Si quieres que te responda una duda, que te recomiende un código informático, que corrija una frase (mejor del inglés), temperatura 0.
0,3 para que genere instrucciones paso a paso, una receta…
0,5 si quieres usar GPT3 como un chat o como un generador de ideas.
Si lo que quieres es ficción y fantasía (no certezas) prueba con valores superiores 0,6… El modelo puede generar nuevos nombres para un producto, temas para una entrevista, puede redactar un cuento…
Aquí te dejo enlazados más ejemplos.
Con Maximum length limitarás la longitud (tokens) de la respuesta.
Top P. Es largo de explicar. Mejor déjalo como está en 1.
Ajustando Frecuency Penalty limitarás las repeticiones de conjuntos de palabras. Selecciona 0 si quieres que el modelo te haga un resumen. 1 si quieres que genere un texto sobre un tema dado.
Presence Penalty es complementario al anterior y marca la probabilidad de que incluya nuevos temas en su resultado. Déjalo entre 0 y 1 si quieres que haga un resumen. Más de 1 para la creación de textos.
Con Best of indicarás al modelo el número de respuestas. Ojo que son facturables.
Inject start text te permite fijar un texto o una instrucción personalizada en tu prompt. Es una opción muy útil si tienes idea de realizar tareas repetitivas con GPT 3.
Inject Restart Text te será útil si vas a utilizar GPT3 como chat. Se utiliza para completar el patrón de la conversación. El modelo incluirá, tras su respuesta, una nueva línea con el texto que hayas incluido en Inject Restart Text.
Si activas Show probabilities GPT 3 te mostrará la probabilidad de que una palabra o secuencia de palabras complete o continúe su respuesta. Esta información puede ser útil si quieres comprender cómo toma decisiones el modelo para generar sus respuestas.
