坚尼地城来自香港第七任总督坚尼地。他任内积极开辟土地，填筑了西区岸边土地。这片沿海的新填地称为坚尼地城。早期港岛北面海边的街道英名多为“Praya”（Praya是英语从葡萄牙语吸收的词汇），中文称“海旁”，因此坚尼地城沿海的一路叫做为坚弥地城海旁。“海旁”和“praya”都是指海滨一块条状土地。而于香港日治时期，坚尼地城曾被改名为山王台。

由于坚尼地城处于香港岛区最西陲，地缘因素使该区在二战后的发展较中上环区、湾仔、铜锣湾和北角都要缓慢。坚尼地城一直被视为港岛区之中较为偏僻的住宅区。而且，很多较为扰民的社区和工业建设，如焚化炉、水泥厂、屠房、殓房和废物转运站等。

直至1990年代末，由于大多数港岛区的发展土地耗尽，政府在坚尼地城卑路乍湾填海。再加上由于社区团体的反映，政府将部份扰民设施迁移，例如关闭两个市政局时期之焚化炉和屠场，使坚尼地城在2000年起开始有高级住宅发展。