Cristian Araujo

9 - Estratégias de Prompt Engineering

7 min read

1. ⚡ Resumo Expandido

A aula aborda cinco estratégias fundamentais de Prompt Engineering: Zero-Shot, Few-Shot, Chain of Thought (CoT), Role-Based e Instruction Tuning. Na prática da engenharia de software e IA, o prompt não é apenas um texto, mas a programação da camada cognitiva de um sistema baseado em Large Language Models (LLMs). A evolução dessas técnicas permite sair de respostas vagas (Zero-Shot) para comportamentos altamente controlados e lógicos (CoT e Few-Shot). O domínio dessas estratégias é a base para a construção de fluxos complexos e agentes autônomos que operam de forma confiável no mundo real, integrando-se com ferramentas e APIs.

2. 🔍 Deep Dive: Conceitos & Teoria

  • Zero-Shot Prompting:

    • Na Aula: Instrução direta sem exemplos. É simples, rápido e economiza tokens, mas pode gerar respostas vagas ou fora de formato se a instrução não for clara.

    • Deep Dive (Pesquisa): Baseia-se na capacidade de generalização adquirida durante o pre-training do modelo. O documento Agentic Design Patterns destaca que essa técnica depende inteiramente do conhecimento pré-treinado do modelo e é vulnerável a falhas ou “alucinações” em tarefas multifacetadas, pois sobrecarrega a carga cognitiva do modelo em um único prompt.

  • Few-Shot Prompting:

    • Na Aula: Inclusão de exemplos de input e output para ensinar o padrão esperado, reduzindo alucinações e oferecendo controle de formato.

    • Deep Dive (Pesquisa): Conhecido na literatura acadêmica como In-Context Learning (Brown et al., 2020). O modelo ajusta dinamicamente suas previsões usando o contexto fornecido no prompt, sem alterar seus pesos internos. O material Fundamentos de IA Generativa reforça que isso aumenta a precisão e consistência das respostas de forma eficiente, sem a necessidade de um fine-tuning dispendioso.

  • Chain of Thought (CoT):

    • Na Aula: Solicita que o modelo explique seu raciocínio passo a passo antes de dar a resposta final. Excelente para lidar com alucinações, cálculos e lógica, embora aumente os custos de API.

    • Deep Dive (Pesquisa): Introduzido no paper “Chain-of-Thought Prompting Elicits Reasoning in Large Language Models” (Wei et al., 2022), provou que forçar passos intermediários desbloqueia capacidades de raciocínio emergentes. O Agentic Design Patterns explica que o CoT ajuda a decompor problemas em subproblemas, sendo a base de técnicas mais avançadas como Tree of Thoughts (ToT) e de fluxos de agentes que precisam manter um estado e planejar ações.

  • Role-Based Prompting:

    • Na Aula: Atribuir uma persona (ex: advogado, programador sênior) para guiar o tom, o vocabulário e a profundidade da resposta.

    • Deep Dive (Pesquisa): Essa técnica condiciona o espaço latente do modelo a uma distribuição de probabilidade específica de um domínio. O documento Agentic Design Patterns ressalta que atribuir um papel (como em fluxos Producer-Critic) fornece um escopo de avaliação rigoroso, ajudando o modelo a manter a consistência técnica da saída.

  • Instruction Tuning:

    • Na Aula: Uso de comandos diretos e altamente formatados, especificando estilo, tamanho e conteúdo (ex: modelos InstructGPT).

    • Deep Dive (Pesquisa): Funciona de maneira superior em modelos que passaram por Supervised Fine-Tuning (SFT) e RLHF (Reinforcement Learning from Human Feedback). O material Fundamentos de IA Generativa aponta o RLHF como a técnica responsável por alinhar as saídas do modelo com as expectativas e instruções humanas, tornando-o capaz de seguir comandos complexos sem devanear.

3. 🛠️ Engenharia: Arquiteturas e Agentes

  • Padrão/Framework: ReAct (Reasoning and Acting)

    • Funcionamento: Combina o raciocínio estruturado do Chain of Thought com a capacidade de interagir com o ambiente. O agente executa um ciclo iterativo de Pensamento (análise do problema), Ação (uso de uma ferramenta ou API), e Observação (retorno da ferramenta), adaptando sua estratégia dinamicamente.

    • Exemplo da Aula: O professor citou o uso do raciocínio passo a passo para “depurar” onde a LLM estava alucinando. Em uma arquitetura ReAct, esse passo a passo é o que permite ao agente autônomo decidir qual ferramenta acionar para buscar dados reais e se auto-corrigir antes de entregar a resposta ao usuário.

    • Referência Externa: Paper “ReAct: Synergizing Reasoning and Acting in Language Models” (Yao et al., 2022). O framework LangChain implementa ativamente essa lógica em seus Tool-Calling Agents.

4. 📚 Bibliografia Estendida e Referências (Pesquisa)

  • Papers Recomendados:

    • Chain-of-Thought Prompting Elicits Reasoning in Large Language Models (Wei et al., 2022): Leitura obrigatória para entender como e por que forçar o modelo a gerar passos intermediários melhora drasticamente a performance em inferência lógica.

    • Language Models are Few-Shot Learners (Brown et al., 2020): O paper que introduziu a arquitetura GPT-3 e formalizou o impacto do In-Context Learning.

  • Artigos/Blogs de Engenharia:

    • Google Research Blog: Discussões sobre o “Scaling Inference Law”, que mostra que dar mais tempo de processamento/raciocínio na inferência melhora resultados em problemas complexos.

  • Ferramentas Relacionadas:

    • LangChain / LangGraph: Frameworks amplamente utilizados na indústria que facilitam o encadeamento (Prompt Chaining) e a criação de loops de reflexão baseados nessas estratégias de prompt.

5. ⚠️ Pontos de Atenção e Trade-offs

  • Na Aula: O professor alertou sobre o Custo e a Latência do Chain of Thought (CoT). Como o modelo gera todo o fluxo de raciocínio, o consumo de tokens de output dispara, encarecendo o uso em produção via API. Também alertou que o Role-Based Prompting pode restringir o modelo a um nicho, dificultando respostas mais abrangentes se não for bem calibrado.

  • Nota do Pesquisador: O professor não aprofundou as limitações do Few-Shot. Ao adicionar muitos exemplos no prompt, você consome rapidamente a Context Window do modelo. Além disso, estudos apontam para o fenômeno “Lost in the Middle” (Liu et al., 2023), onde modelos de linguagem falham em resgatar instruções ou exemplos posicionados no meio de um prompt muito longo, prestando mais atenção apenas no início e no fim do texto. Estratégias como Chunking inteligente e resumos hierárquicos são recomendadas para contornar isso.

6. 📝 Quiz Prático

  1. Qual é a principal vantagem do Few-Shot Prompting em relação ao Zero-Shot quando precisamos garantir que a saída de dados siga um esquema rigoroso (ex: JSON)?

  2. Segundo a aula, por que a estratégia de Chain of Thought (CoT) facilita a depuração (debugging) do comportamento de uma LLM?

  3. Como a técnica de Role-Based Prompting pode ser combinada com instruções de sistema (System Prompts) para melhorar a adoção de um chatbot médico por pacientes?

  4. [Desafio SOTA] Como a técnica de Chain of Thought, ensinada pelo professor, atua como bloco construtor fundamental para o padrão de Reflection (Auto-correção) em sistemas multi-agentes?

1. Vantagem do Few-Shot para esquemas rigorosos (ex: JSON): O Few-Shot Prompting (ou In-Context Learning) é altamente eficaz porque fornece exemplos práticos do formato exato que a saída deve ter. Isso reduz drasticamente as alucinações e garante que o modelo siga a estrutura exigida (como chaves e valores específicos em um JSON) sem a necessidade de um retreinamento caro e demorado.

2. Por que o Chain of Thought (CoT) facilita a depuração (debugging): Ao forçar o modelo a “pensar em voz alta” e gerar etapas intermediárias, o CoT torna o processo de raciocínio da IA transparente e interpretável. Se o modelo chegar a uma conclusão errada, o engenheiro pode analisar o texto gerado, identificar exatamente em qual etapa lógica o modelo falhou e ajustar o prompt ou o contexto para corrigir aquele desvio específico.

3. Role-Based Prompting + System Prompts para um chatbot médico: O Role-Based Prompting atribui uma persona (ex: “Você é um médico empático e experiente”) que ajusta o tom, o vocabulário e o estilo de comunicação para transmitir profissionalismo. Quando combinado com um System Prompt (que define regras estritas de segurança e formatação), o chatbot consegue manter um comportamento seguro e acolhedor, aumentando a confiança e a adoção por parte dos pacientes que sentem estar conversando com um especialista qualificado.

4. [Desafio SOTA] Como o CoT é o bloco construtor do padrão de Reflection: O padrão de Reflection exige que um agente atue como um crítico do seu próprio trabalho ou do trabalho de outro agente. O Chain of Thought fornece a estrutura necessária para essa crítica: ele força o agente a analisar sistematicamente a saída gerada contra os requisitos iniciais, listar as fraquezas e propor melhorias específicas de forma lógica antes de reescrever a resposta final.

Recent Notes

Graph View