TEK HAY KIONG (ZE HAI GONG) didirikan pada tahun DING YOU atau tahun ke 17 pemerintahan Kaisar DAO GUANG dari Dinasti QING (1837 M) oleh Kapiten TAN KOEN HWAY (CHEN KUN HUAI) bersama rekan-rekannya serta masyarakat Tegal pada waktu itu.
Nama TEK HAY KIONG ini dapat diartikan sebagai “Istana” untuk menghormati TEK HAY CIN JIN (ZE HAI ZHEN REN) dan juga merupakan nama baru bagi CIN JIN BIO (ZHEN REN MIAO) yang pada waktu itu telah rusak. Berdasarkan prasasti yang ada, pembangunan Kelenteng TEK HAY KIONG oleh Kapiten TAN KOEN HWAY ini dianggap sebagai Restorasi TEK HAY KIONG yang pertama.
Selanjutnya pada masa kepengurusan Kapiten TAN SEE GWAN (CHEN SHA YUAN : putra dari Kapiten TAN KOEN HWAY) pada tahun 1895 atas prakarsa dari Kapiten KHOUW KOK THAI (XU GUO TAI) Kelenteng TEK HAY KIONG dilengkapi dengan sebuah genta besar untuk keperluan upacara sembahyang yang didatangkan dari Propinsi FU JIAN.
Restorasi kedua dilaksanakan pada tahun 1897. Pada tahun 1899 tokoh masyarakat Tegal, LIE KAUW EH (LI JIU YING) menyumbang sebuah tambur besar beserta tiang ukir penyangganya.
Restorasi ketiga dilaksanakan pada tahun 1957 dan restorasi keempat dilaksanakan pada tahun 1982