Renesansowa Brama Poboczna znajdowała się na końcu ulicy Dunaj (współcześnie Wąskiego Dunaju – jeszcze w XIX wieku nazwa „Dunay” była wspólnym określeniem dla Wąskiego i Szerokiego Dunaju). Brama Poboczna była częścią murów obronnych średniowiecznej Warszawy. Wybudowano ją na przełomie XVI i XVII wieku.
Na akwareli Zygmunta Vogla z 1785 roku dostrzegamy na niej attykę. Była również pokryta tynkiem.
Brama przetrwała do początku XIX wieku. Została wyburzona w 1804 roku co pozwoliło na połączenie ul. Dunaj z ul. Podwale.