Qué es la ventana de contexto en una IA
La ventana de contexto es la cantidad de texto (medida en tokens) que un modelo de lenguaje puede "tener en cuenta" a la vez: lo que le has escrito más lo que ha respondido. Si la conversación la supera, lo más antiguo se ignora.
Entender la ventana de contexto explica por qué una IA a veces "olvida" lo que dijiste al principio de un chat largo o por qué un documento muy grande "no cabe". Es uno de los conceptos más prácticos de la IA generativa.
Pasos
- Qué incluye la ventanaTodo lo que está en juego en ese momento: tus instrucciones, el historial de la conversación, los textos que pegas y la respuesta que genera.
- Se mide en tokensNo en páginas ni en palabras, sino en tokens (fragmentos de texto). Unas 100 palabras son unos 130-150 tokens.
- Qué pasa al superarlaEl modelo no "amplía la memoria": descarta lo más antiguo o lo resume internamente. Por eso puede perder detalles del inicio.
- Memoria del chat ≠ memoria realAunque parezca que recuerda, solo "ve" lo que cabe en la ventana. Fuera de ella, es como si no existiera para el modelo.
- Cómo trabajar con ellaEn conversaciones largas, repite los datos clave de vez en cuando. Con documentos grandes, divídelos y trabaja por partes.
Tip clave
Si notas que la IA se contradice o pierde el hilo en un chat largo, abre un chat nuevo y resúmele tú el contexto importante. Empieza limpio y con todo dentro de la ventana.
Preguntas frecuentes
¿Más ventana de contexto es siempre mejor?
Permite manejar textos más largos, pero los modelos también pueden "diluir" la atención en contextos enormes. La calidad del prompt sigue mandando.
¿Es lo mismo que la memoria entre conversaciones?
No. Algunas herramientas guardan datos tuyos entre chats; eso es otra función. La ventana de contexto es solo lo que entra en una interacción.
¿Por qué un PDF largo da error?
Porque su contenido supera la ventana de contexto del modelo. Hay que resumirlo o partirlo.