民國前十七年，治臺的日本政府為加強地方的公共醫療衛生，於現今的三民路和民權路口興建「臺灣總督府臺中病院」（民國三十四年改制為省立臺中醫院）。八十一年院方鑑於院舍老舊簡陋決重新改建，擴大規模。當時規劃時遇到了一個棘手的問題，醫院大門口有一株被市府列冊的百年老榕樹，院方生怕稍有不慎會造成損傷，所以，不管在畫設計圖或施工時，都將它列為第一優先的考量。大樓落成之後，不但老榕樹毫髮無傷，還成為與新大樓最「速配」的庭園景觀。 　　這株老榕樹高約十二公尺、胸徑二．二公尺、胸圍五．六公尺，樹齡應在一、兩百年之間。行政院衛生署臺中醫院副院長呂源三指出，若非拍枝幹遮擋到馬路和醫院門口的人車進出，每年加以修剪的話，這株老榕樹的樹幅恐會有現在的五、六倍大。呂源三表示，在醫院靠近柳川的側門處遇有兩株大榕樹，雖然樹齡較小，樹幅和高度卻比這株老榕樹超過很多。 呂源三表示，雖然這株老榕樹名義上是市府的財產，但醫院全體同仁都將它視為「院樹」，對它具有深厚的感情，大家更約定俗成以「榕樹下」做為院歌。 院方對於這株老榕樹倍加呵護，一則認為它的榮枯象徵醫院的興衰，二則長期以來它一直是病患家屬祈求患者早日康復的膜拜對象。也不知何時，老榕樹下被安置了一座簡單的香案和香爐，香爐天天「滿檔」。 至於這株老榕樹的由來，幾乎沒有人知道，只是根據文獻的記載得知，前清興築臺中城池時，醫院的現址為小北門的所在地，當時一片荒蕪，墓地散佈，常見居民在大樹下蓋簡陋的王爺公廟或百姓公廟，顯見當地大樹林立。又根據市府編印的「臺中市發展史」提到，日治時代日人為拓寬林森路和三民路，大肆砍伐擋路的巨大榕樹和楓樹，臺中醫院的這株老榕樹可能不在規劃的馬路範圍內，才倖免於難。