~/questoes/inteligencia-artificial
O context window é o espaço total que um modelo de linguagem consegue processar em um prompt. Quanto maior esse espaço, mais exemplos você consegue fornecer em uma abordagem few shot sem comprometer a qualidade da resposta.
Um context window maior funciona como um container maior para seu prompt. Se você tem mais espaço disponível, consegue adicionar mais exemplos antes de fazer a pergunta real, melhorando significativamente a qualidade das respostas do modelo.
Exato. Pense no context window como um balde: quanto maior o balde, mais água (exemplos) você consegue colocar dentro. Mais exemplos = melhor compreensão do padrão pelo modelo.
Isso não é verdade. O context window não determina se você usa zero shot ou few shot. A escolha entre essas técnicas depende da complexidade da tarefa e da qualidade desejada, não do tamanho do context window.
Completamente incorreto. Few shot funciona em modelos com qualquer tamanho de context window. A diferença é que com context windows menores, você consegue fornecer menos exemplos, não que a técnica não funcione.
Falso. Context window tem relação direta com engenharia de prompt. É ele que define quantos tokens você pode usar no total, afetando diretamente quantos exemplos cabem em um few shot.