古林寺建于梁，當時稱觀音庵，南宋時稱古林庵，明代改庵為寺，成為城西巨剎。石壁上鐫刻的園名為林散之題書。此園占地400余畝，園內丘陵起伏，高低錯落。古林公園建在原古林寺屬寶林庵舊址上，為紀念這座江南古剎，以古林寺寺名而命名。