https://www.fe-siken.com/kakomon/01_aki/pm08.html

"AC[BA]A[ABC]A"における[]内の数字が決まっていない３、５文字目についてもMask[1]で１となり成立するのでしょうか。

どゆことでしょうか

Pat[0]=A
Pat[1]=C
Pat[2]=[
Pat[3]=B
Pat[4]=A
Pat[5]=]
というかんじで格納されていますので[]内で複数選択肢があってもAの出番があります。

空欄gの話ですね。
[]内からは自由に選べる（表4通り）ので成立します