本廟建於同治十二年(一八七三年)。善信以紅磡坊眾居多，大部分為主婦，間中亦有商人及漁民來參拜。

據稱在一九零九年，政府擬開路貫通紅磡與九龍城及尖沙咀的交通。工人在山區掘地的時候，忽然有紅色水柱自地底射出，於是有謠傳指是工人掘傷龍脈，工人因此不敢繼續工作。其後驗出水的顏色是地下水銀與琉璜所造成；工人猶有懼色，於是集資重修觀音廟，希望得觀音庇蔭，使趨吉避凶。

此外，在第二次世界大戰末期，據說紅磡黃埔船廠是當時日軍轟炸的目標。一日有炸彈落於紅磡區，廟側屋宇蕩然無存，惟觀音廟則屹立如故，其側百餘名學生因而罹難，反而匿於廟內的人士無恙，居民均認為是觀音顯靈庇佑的緣故。