Engenharia de prompt se refere ao processo de projetar e refinar prompts de modelos de IA generativa para produzir respostas de alta qualidade e contextualizadas. Isso envolve a elabora??o de prompts claros, espec¨ªficos e relevantes para tarefas sob medida ou aplica??es, para otimizar a sa¨ªda do modelo. ? medida que as capacidades dos modelos de linguagem de grande porte (LLMs) evoluem, particularmente com o surgimento dos modelos de racioc¨ªnio, as pr¨¢ticas da engenharia de prompt devem tamb¨¦m se adaptar. Baseado em nossa experi¨ºncia em gera??o de c¨®digo com IA, n¨®s observamos que o pode ter uma performance inferior ao zero-shot prompting quando trabalhado com modelos de racioc¨ªnio. Adicionalmente, o amplamente utilizado (CoT) pode a performance de modelos de racioc¨ªnio ¡ª provavelmente porque a aprendizagem por refor?o j¨¢ tem embutido no macanismo CoT.
Nossa experi¨ºncia pr¨¢tica est¨¢ alinhada com as pesquisas acad¨ºmicas, que sugerem que ¡°modelos avan?ados podem de engenharia de prompt na engenharia de software.¡± No entanto, t¨¦cnicas de engenharia de prompt tradicionais ainda desempenham um papel crucial na redu??o de alucina??es e na melhoria da qualidade das respostas, especialmente considerando as diferen?as em tempo de resposta e custos de token entre modelos de racioc¨ªnio e LLMs gen¨¦ricos. Ao construir aplica??es de agente, n¨®s recomendamos a escolha estrat¨¦gica dos modelos com base nas suas necessidades, enquanto continua a refinar seus modelos de prompt e t¨¦cnicas correspondentes. Encontrar o equil¨ªbrio certo entre desempenho, tempo de resposta e custo de token continua sendo essencial para maximizar a efic¨¢cia dos LLMs.
Engenharia de prompt se refere ao processo de projetar e refinar prompts para modelos de IA generativos, visando obter respostas de alta qualidade. Isso envolve a constru??o cuidadosa de prompts que sejam espec¨ªficos, n¨ªtidos e relevantes para a aplica??o ou tarefa desejadas, de forma a induzir respostas ¨²teis do modelo. A "engenharia de prompt" tem por objetivo melhorar a capacidade dos grandes modelos de linguagens (LLMs) em tarefas como responder a perguntas, racioc¨ªnio aritm¨¦tico ou em contexto espec¨ªficos de um dom¨ªnio. Para o desenvolvimento de software, a engenharia de prompt poderia ser usada para fazer um LLM escrever uma hist¨®ria, uma API ou um banco de testes baseado em uma conversa curta com uma das partes interessadas ou em algumas anota??es. Desenvolver t¨¦cnicas eficazes de est¨ªmulo est¨¢ se tornando uma habilidade valiosa para trabalhar com sistemas de IA. H¨¢ debates se a engenharia de prompt ¨¦ uma ci¨ºncia ou uma arte, e potenciais riscos de seguran?a, tais como "ataques de inje??o de prompts", tamb¨¦m devem ser considerados .
