ひとことで言うと

コンテキストウィンドウ

指示、参考資料、回答を含めてAIが一度に扱える情報量の上限で、過去の会話をずっと覚えておく能力とは別のもの。

内蔵用語集の説明