ひとことで言うと

ガードレール

望ましくない入力、回答、操作を防ぐためにAIの周囲に設ける確認や制限で、見逃しがないか試す必要がある。

内蔵用語集の説明