1954年后，他曾先后当选为第一届至第七届全国人大代表，第一至第七届上海市人大代表，第八、第九届市人大常委会副主任。第一至第四届上海市政协委员、常委，第五届市政协副主席。

赵祖康于1951年7月参加民革，并担任民革上海市分部筹备委员会委员。1955年3月民革上海市委员会成立，先后当选为第一、二届民革市委副主任委员，第三至第七届民革市委主任委员。在此期间，还先后被选为第三至第五届民革。1981年12月，被增选为民革中央副主席。1987年12月，为了贯彻培养年轻接班人的战略方针，他主动向民革组织申请让贤，被推为第八届民革上海市委会名誉主任委员。第七届民革中央领导机构改选，被推为名誉副主席。

1978年，中共十一届三中全会后，他团结民革市委领导一班人，发挥群体力量，将市委委员和民革党员中的有关专家学者组织起来，就每个时期中共和政府的中心工作和社会的热点问题开展调查研究，提出相应解决的意见和建议，向中央或上海有关政府部门献计献策。

赵祖康长期担任市政协对台工作委员会主任，并经常亲自撰写对台宣传稿件，就自己亲身经历和感受，谈祖国建设成就和国际地位的提高，以及中共对原国民党人员的政策，向海外广播或在海外报刊发表。改革开放以后，他虽年事日高，还经常亲自接待海外或台湾来访的人士，和他们坦诚交谈，切盼早日实现祖国和平统一。1987年10月上海中山学社成立，他任社长，尽力沟通海峡两岸与海外关于孙中山的学术研究和交流。他将主编的《英汉道路工程辞典》一书，进行修订增补，于1978年重版发行，被联合国教科文组织指定为道路工程专业的参考工具书。

1949年4月21日，人民解放军发起渡江战役，南京随即解放。上海的国民党军政人员惶惶不可终日。5月21日，人民解放军开始向上海外围进攻。上海市市长吴国桢是中共中央认定的国民党战犯之一，见势匆忙辞职逃离，原市府秘书长陈良改任市长，市属各局的局长也大多辞职离开。上海物价飞涨，民众生活陷于水深火热，城市一片混乱。

5月24日凌晨1时半，赵祖康被一阵急促的电话铃声惊醒。市政府社会局局长陈保泰电话中说：“赵局长，陈市长（指陈良市长）请你立即去市政府，有要事相商。”到了陈良家，陈良照例谈了一些对局势的看法，然后说明，他们已经准备撤到台湾去，委托赵祖康担任代理市长。陈良还给赵祖康看了何应钦在4月间给他写的一封信。信中讲道，国民党在撤离南京时“秩序甚乱，市民遭受极大的损失，国际视听太坏”。最后陈良说：“当前时局紧张，希望你能够在我离开上海后担任‘代理市长’，以维持市政局面。”赵祖康推托说自己长期做技术工作，无力担当主政责任。但随后想到，与他有联系的中共地下党员“李小姐”曾多次对他说，一旦形势紧急，如有机会，可设法把市政府机关接过来，配合人民解放军解放上海。于是，赵祖康接受了代理市长的任命。

受命后，赵祖康立即想到要控制住上海市警察局，以维持社会治安，也避免直面冲突、便于解放军进入上海。于是在24日下午3时，他安排了早已与共产党有联系的上海市警察局副局长陆大公负责警察局工作，并委派陆大公为代理局长。接着，他又着手解决上海警备部队的问题，于下午6时前往位于苏州河的淞沪警备司令部，要求他们在将来撤退时，不要与人民解放军发生大的冲突，要顾及上海老百姓的生命财产安全，并使警备司令接受了这一要求。离开苏州河后，他又拜访了颜惠庆、张元济等知名人士，争取他们的支持。

5月26日上午，赵祖康召开市府各局负责人会议，会议最后作出决议：在军管会接收人员来接洽时，应对他们说明关于旧市府和所属各局的情况；办理移交时，必须由各局、处从上而下，整体移交。下午，赵祖康参与协助沟通，劝说苏州河北岸还负隅顽抗的国民党驻军残部停战缴械。赵祖康与解放军及国民党驻军反复沟通后，这些国民党驻军举起了白旗，解放军则对他们的去留做出了安排，并同意这些驻军提出的尊重“军人人格”的要求，称他们的行为是缴械而非投降。就这样，苏州河北岸以和平的方式解放了。

5月28日，上海政权交接仪式在市府大厦举行。赵祖康在门口怀着喜悦而又紧张的心情迎接司令员兼市长陈毅与曾山、韦悫、潘汉年等人的到来。陈毅微笑着与赵祖康握手，谦和地招呼他在办公室坐下来。“赵先生，那个陈大庆、陈良是怎么跑走的？”陈毅一句拉家常式的话语，揭开了新旧政权交接的序幕。看到陈毅市长和蔼可亲、平易近人的态度，赵祖康如实汇报，紧张心情立刻消除。陈毅操着浓重的四川口音说：“赵祖康先生率领旧市政府人员悬挂白旗，……保存了文书档案，这种行动深堪嘉许。希望今后努力配合做好市政府的接管工作。”

会后，陈毅又特地把赵祖康留下来谈心，鼓励他能够利用自己的专长继续为人民服务。赵祖康表示想去大学教书。陈毅诚恳地说：“赵先生，不要有其他想法，你留下来很好，国家需要人才，你可以发挥自己的专长，为上海的市政建设贡献自己的力量。”陈毅还特别强调：“赵先生，我们是一定能够很好合作的。”

之后几十年，赵祖康先后担任了上海市副市长、市人大常委会副主任等职务，逢人都会提起陈毅的这句话。他说，陈毅的话出乎至诚，感人肺腑，令他永生难忘

中国共产党政策的温暖，陈毅市长的通情达理、宽仁大度，令赵祖康感动万分。陈毅多次对赵祖康委以重任，教导他团结好上海科技界人士，并鼓励他赴京参加全国科技大会筹备会。从京返沪后，陈毅又带领赵祖康视察浦东海塘，参加抢修工程。10月2日，上海市人民政府举行隆重的升旗典礼，庆祝中华人民共和国成立，赵祖康怀着兴奋的心情参加了活动。

1949年12月，陈毅在上海市一届二次人民代表会议上，就上海的市政建设提出为劳动人民首先为工人阶级服务的方针。据此，上海市政府决定首先对沪东和沪西两个劳动人民聚居地的危棚陋屋进行改造，改善老百姓的生活条件。一次，赵祖康到沪西地区药水弄考察民情，劳动人民恶劣的生活环境对他触动极大，他心生愧疚。这一改造工程后来赵祖康亲自过问多次，不久，那里的老百姓率先住进了窗明几净、设备完善的新居，药水弄改造也成为上海解放初期城市建设的一个缩影。

1953年，我国开始执行第一个国民经济五年计划，上海的城市建设随之进入一个新的发展阶段。上海的公路建设从维持通车向增强通车能力的高质量要求转变，也给赵祖康发挥聪明才智提供了新天地。几年时间里，赵祖康领导上海市工务局做了大量卓有成效的工作，上海市区、郊县以及与邻近省市的交通状况大大改善，几十年公路建设积累的丰富经验在这些工作中得到了很好的展现。据统计，从1949年到1957年8月间，上海共修建公路280公里，这样的成绩与新中国成立前相比，是非常可喜的，也为上海以后的发展奠定了初步的基础。

随着一个个项目完成，一件件民生工程实现，赵祖康年轻时立下的“工程救国”的心愿得到实现。他总是心情畅快充满感慨地说：“只有在新中国，只有在中国共产党领导下，科学技术人员才能真正发挥聪明才智。”

1951年，在陈毅及中共上海市委有关同志的支持下，赵祖康加入民革，随即担任民革上海市分部筹委会委员，工务局的民革组织也在中共的支持下开始建立。1957年1月，赵祖康被任命为上海市副市长，直至1967年2月。此后在1979年12月，上海市七届人大二次会议上赵祖康再次被任命为副市长，直至1983年4月卸任。赵祖康成为唯一一位间隔十余年再次担任副市长的党外人士，前后相加，他当了13年6个月的副市长。

1995年1月19日，赵祖康走完了不寻常的95年人生历程。

“詹天佑铁路，茅以升桥梁，赵祖康公路”，研究中国交通史的人们都一致将赵祖康视作近现代中国公路第一人。他在留学回国后为中国道路标准、车牌标准、全国公路规划制定以及人才培养等方方面面做出了开创性贡献。1948年，我国著名雕塑家刘开渠曾创作雕塑《开路先锋》赠给赵祖康，以向这位中国公路界的元勋表达敬意。

赵祖康曾写下“开边须筑路，救国仗书生”的诗句，表达自己追随孙中山“工程救国”报效国家的心愿。中国抗战交通史上著名的四大公路，即合称为三西公路的西兰（西安-兰州）、西汉（西安-汉中）、乐西（乐山-西昌）三条公路，以及滇缅、汉渝等公路，赵祖康都曾为之呕心沥血。尤其乐西公路的赶工抢建，他更为之累到吐血病倒。

赵氏家风的流传，赵祖康是承上启下的关键。在他影响下，三个女儿均毕业于清华、北大，二子皆于学界扬名：长子赵国通历任上海市人民政府参事，全国政协委员，上海市经委副总工等职；次子赵国屏院士是我国著名分子生物学家。其孙辈有五位取得名校博士文凭。身为全国政协委员，赵国通说，父亲的言传身教使儿女们一直牢牢记住这样的信条：“做任何事要想着为社会谋福利，而非谋私利”。赵国屏院士在开拓科研新领域的同时，对科研体制中存在的种种问题，经常给出精辟的见解，并积极推动改善。

1989年赵祖康90寿辰时，当时任上海市市长的朱镕基曾亲往祝贺，称他为“年高德劭，功在上海”。

赵祖康逝世时吊唁大厅一对联写到：“一生唯淡泊以明志，食草脊梁，白头除国事外，更无得失动喜忧；万事求宁静而致远，尽瘁肝胆，沧桑任变幻多，自有信念衡是非。”

赵祖康等编. 英汉道路工程词汇[M]. 北京：人民交通出版社, 1965.06.

赵祖康等编. 英汉道路工程词汇 修订第2版[M]. 北京：人民交通出版社, 1978.08.

赵祖康，徐以枋主编. 汉英土木建筑工程词典[M]. 北京：人民交通出版社, 1997.12.