金山寺原是福州仓山洪塘村附近乌龙江中的一个小石阜,《榕城考古略》记载:江渚突出一阜,随潮高下,水涨而山不没,名小金山,形象以为印浮水面。
七八百年前,人们在这江心小阜建起一座七层八级,高约7米的实心石塔,就像一个航标。后来,善男信女又在石塔周围建起寺庙。现在的金山寺是1934年重建的,因为是建在小岛上,限于地形,寺院较小,没有巍峨的殿阁和巨大的佛像,但小巧玲珑,佳景天然,在全省寺院中独具一格。
金山寺实心塔前有观音阁,祀天后妈姐塔后有大悲楼,左右各有一间斗室,左室名怡怡斋,明代抗倭名将,兵部尚书张经年轻时曾在这里读书,其有联道:楼间几层摩日月,江湖千古集衣冠。右室名借借室,明代创立三一教的林龙江在此著书立说,室门上有一副对联:山川寄迹原非我,天地为庐亦借人。
明万历年间进士,芝山诗派诗坛盟主,闽剧逗腔创始人曹学佺仿古巢居,在金山寺的两株榕树间盖起一座小楼,取名天坪禅楼,他还专门为此写下《小金山天坪禅楼落成》一诗。
在涨潮时,从远处看,小小的金山寺屹立于闽江南港的碧波之中,日夜长浮,有如一艘楼船,劈波斩浪,逆水上行,而在金山寺凭栏远眺,可见碧波荡漾,风帆浮动!四周九山如群龙,矫若云海来相从。