台南市立医院的名称，首度出现在民国六十二年文献纪录中。民国六十年三月，台南市卫生局局长陈俊杰先生，鑑于本市医疗设备不足，草拟台南市平民医院设置计画呈台南市政府参考。民国六十二年九月，台南市议会第八届第二次临时大会，更由市议员欧铃木正式提出第四号临时动议案，建议设立台南市立医院。

当时台南地区极度缺乏大型医院，罹患疾病或重症民众，往往必须转送至高雄或台北的医院，造成台南市民生命财产的损失与就医上的不便。