Robocikowo>ROBOCIKOWO

Prompt Engineering w praktyce · Structured outputs i function calling

Grammars, GBNF i retry-on-invalid

Structured outputs i function calling

Wprowadzenie

Constrained decoding poza cloud strict mode: GBNF w llama.cpp, FSM w Outlines, regex i grammars dla non-JSON outputs (SQL, DSL). Hierarchia ekspresji: regex < JSON Schema < CFG. Retry-on-invalid jako last-resort defence: jak konstruowac error messages dla self-correction, kiedy retry jest objawem zlej schemy. Defense in depth: strict mode + Pydantic + retry. Structured CoT, self-consistency, LLM-as-judge. Trade-offs latency vs reliability, kiedy NIE uzywac constrained decoding. Migracja schem v1 → v2.