Mae'r 'Tywyslyfr Swyddogol a Chofrodd Aberystwyth' a gyhoeddwyd yn 1924 gan Gorfforaeth Aberystwyth, yn rhestri fod y Clwb Ceidwadwyr yn stryd Y Porth Bach (Eastgate). Mae i'r adeilad dalwyneb o deils terracotta, sy'n cynnwys enw'r clwb uwchben y ffenest ganol fyny wrth lefel y to. Credir bod yr adeilad yn dyddio o tua 1900.