Prompt Engineering w praktyce · Structured outputs i function calling
Grammars, GBNF i retry-on-invalid
Structured outputs i function calling
Wprowadzenie
Constrained decoding poza cloud strict mode: GBNF w llama.cpp, FSM w Outlines, regex i grammars dla non-JSON outputs (SQL, DSL). Hierarchia ekspresji: regex < JSON Schema < CFG. Retry-on-invalid jako last-resort defence: jak konstruowac error messages dla self-correction, kiedy retry jest objawem zlej schemy. Defense in depth: strict mode + Pydantic + retry. Structured CoT, self-consistency, LLM-as-judge. Trade-offs latency vs reliability, kiedy NIE uzywac constrained decoding. Migracja schem v1 → v2.