La gente conoce a ChatGPT por su nombre, ChatGPT, pero…los que hemos usado la API para introducir ChatGPT en aplicaciones sabemos que l nombre que OpenAI le da es “GPT3.5-Turbo”.
Ahora bien, recientemente ha aparecido “GPT3.5-Turbo-16K” en el playground en nuestras cuentas de OpenAI.
Este reciente modelo en principio es el mismo que el 3.5 “normal” solo que se ha ampliado su ventana de contexto a 16.000 tokens. Esto multiplica por 8 la capacidad de retención en memoria de ChatGPT.
La mejora es muy relevante 👍
Para hacernos una idea, de manera aproximada, ChatGPT solo es capaz de recordar poco más de 2 páginas escritas, a partir de ahí ya no recuerda la conversación y eso es algo que provoca que se pierda. Con esta actualización podrá recordar sobre 20 páginas.
Un incremento impresionante, pero que aún queda lejos de GPT4 en su mejor versión y de Claude de Anthropic que tiene el récord con 100k tokens de ventana de contexto.
Como curiosidad señalar el hecho de que algunos usuarios esperaban que al tener mayor ventana de contexto, escibiría respuestas más largas, pero no es así, la nueva versión da respuestas similares en cuanto a longitud, lo que si puede es recordar más y por tanto, a través de varias peticiones escribir una respuesta más larga sin perder coherencia.
