https://www.fe-siken.com/kakomon/01_aki/pm08.html
"]" を見つけたとき Mode に 0 が入ると思うのですがその後の 1 加算される処理が行われない理由がわからないです。

Patlenの事ですかね

例えば、"AC[BA]A[ABC]A"は、"A"、"C"、"[BA]"、"A"、"[ABC]"、"A"の
6文字のパターンとなりますが、"[BA]"とか"[ABC]"とかは
最初の"["の文字でModeを1にするのと同時にPatlenに1を加算してしまっているので、
"]"ではPatlenに1を加算できません。

関数従属さん、ご説明ありがとうございます。
条件式の中の横棒が else の役割をしていることを見落としていました。
ありがとうございます。