Guardrails

Guardrails sind Prüfungen und Beschränkungen, die in ein KI-System eingebaut werden, um schädliche, themenfremde oder unzulässige Ausgaben zu verringern. Sie senken das Risiko, können aber versagen oder umgangen werden.

Guardrails are checks and constraints built into an AI system to reduce harmful, off-topic or unauthorised output. They lower risk, but they can also fail or be circumvented.