Глоссарий
Ограждения
Также: guardrails
Проверки входа и выхода агента, часто на быстрой и дешёвой модели: не просят ли агента о запрещённом, нет ли в ответе того, чего там быть не должно.
Пример
В OpenAI Agents SDK входное ограждение останавливает агента поддержки, если пользователь просит решить за него домашнее задание.
Где встречается
- Виды AI-агентов: где работают и как устроены — Пост 4 из 8