青山宮的所在地萬華古稱「艋舺」,據說來自凱達格蘭族語中的獨木舟「Bangka」。日治時期,日本政府以「Bangka」的發音尋找相對應的漢字,選中了日文發音同為「Bangka」的「萬華」二字,但今日土生土長的仍多以「艋舺」稱呼之。
而艋舺青山宮的歷史與艋舺發展史脫不了關係,相傳在清朝咸豐四年(1854年),艋舺一帶發生瘟疫,泉州惠安籍的移民回原鄉奉請祖廟的靈安尊王到艋舺驅瘟,由大溪口(今第一水門附近)登岸,行經舊街(今西園路一帶)時神轎突然加重,無法抬起,信眾就焚香請示神意,尊王指示不必再往前行,信眾就在神轎駐蹕之處建一小祠供奉靈安尊王。
靈安尊王進入艋舺後,許多來參拜的信眾都在這場瘟疫中安然無恙,其後瘟疫果然逐漸消失,一時間神威遠播,也奠定了青山宮往後的信眾基礎。在靈安尊王進入艋舺的兩年後,當地信眾覺得供奉靈安尊王的小祠無法容納更多信眾,因而於現址(貴陽街)建立新廟,歷時三年完工,就是現在的青山宮雛形。日治昭和十三年(1938年)重修過一次。青山宮後殿原為舊式建築,因年久失修,民國六十八年時拆除重建,就是現在後殿的三層樓建築。
廟內主神為靈安尊王,但有許多信眾稱呼祂青山王、青山王公,也有人稱呼祂為「張老闆」,因為靈安尊王本名張梱,是三國時代吳國的將軍,奉孫權之命治理福建一帶,因任內政績顯著,往生後被當地百姓奉為神明,稱「青山王」。
故老相傳,張梱的聖號原本只有「青山王」,在宋朝時,曾顯靈救駕宋朝皇帝,因而被封為「靈安尊王」,又因為是受宋朝皇帝敕封,所以在「靈安尊王」的儀仗隊中有一面執事牌寫著「大宋明臣」,在青山宮廟門之上也有「敕封大宋明神」的字樣。
青山宮內的靈安尊王金身有很多尊,大家最熟悉的,也就是每年「暗訪」期間負責坐上神轎的是「二祖」。「老祖」,也就是一百六十多年前由先民帶過來的那一尊目前由廟方妥善收藏。
靈安尊王的權責是全面性的,祂屬於地方的守護神,但同時也被視為當地的城隍爺,所以青山王的輔佐神明有城隍爺專屬的謝范將軍、八司爺、文武判官,以及專門捉拿惡鬼的枷鎖將軍。枷鎖將軍站立於青山宮內殿的第一線,若到廟中參拜,第一個會看見的神明是紅面的枷將軍,在祂對面的是綠面的鎖將軍,青山宮特有的陣頭「艋舺青山宮八將團」就是由這兩位神明衍生而來,在每年青山王遶境時走在青山王神轎的駕前,可說是艋舺大拜拜時最受人注目的陣頭。
青山王夫人位於後殿,信眾大多稱呼為「青山王媽」、「青山王夫人」。「王媽」共有兩位,分別是「顯慶夫人」、「慶安夫人」,有許多在地的艋舺女性都會來參拜兩位「王媽」以祈求家和萬事興。
艋舺青山宮不僅是當地的信仰中心,一百六十多年來與在地民眾共同扶持,當年人人為之色變的SARS,在大家都束手無策之下,最終請出了青山王「送瘟」,也是青山宮歷史上罕見的在非聖誕期間出巡繞境。而數年前的那一場大火雖然重創了青山宮,但卻燒不毀百年來的堅定信仰,僅僅數年的時間,青山宮靠著信眾與神明互相砥礪,不僅重生且再站上另一個高峰。