本庙建于同治十二年(一八七三年)。善信以红磡坊众居多,大部分为主妇,间中亦有商人及渔民来参拜。
据称在一九零九年,政府拟开路贯通红磡与九龙城及尖沙咀的交通。工人在山区掘地的时候,忽然有红色水柱自地底射出,于是有谣传指是工人掘伤龙脉,工人因此不敢继续工作。其后验出水的颜色是地下水银与琉璜所造成;工人犹有惧色,于是集资重修观音庙,希望得观音庇荫,使趋吉避凶。
此外,在第二次世界大战末期,据说红磡黄埔船厂是当时日军轰炸的目标。一日有炸弹落于红磡区,庙侧屋宇荡然无存,惟观音庙则屹立如故,其侧百余名学生因而罹难,反而匿于庙内的人士无恙,居民均认为是观音显灵庇佑的缘故。