LLMs e GenAI

Por que tokens, janelas de contexto, a ideia de prompt-como-interface e esquemas de saída estruturada/ferramentas são um modelo subjacente em vez de detalhes de API não relacionados - o modelo mental por trás de todas as outras páginas desta seção.

Como pensar sobre prompts, tokens e modelos.

API de Mensagens, streaming e uso de ferramentas em Python.

Chat completions e abstração de provedores.

Carregando, executando e gerando com modelos abertos.

Prompts de sistema, few-shot e padrões de prompt.

Gerando e usando embeddings de texto.

Confiabilidade, avaliação e segurança.