1817年，共和党的詹姆斯·门罗上台成为总统，亚当斯被任命为国务卿，至1825年。在此期间，亚当斯协助门罗总统起草《门罗宣言》，参与解决美国与英国的许多纠纷。

1818年，安德鲁·杰克逊将军以武力手段占领西属佛罗里达，引起国内外喧哗。亚当斯抓住机会，支持杰克逊的行为，回复要求惩办杰克逊的西班牙政府道：“西班牙必须马上（决定）派遣足够的兵力保护其佛罗里达属土，……或割让西班牙仅名义上据有的一省予合众国，而该省其实……是一处烦扰西班牙的小据点。”亚当斯利用杰克逊已征服该地的现实，及西班牙自身的弱点，来说服西班牙在1819年的《横贯大陆条约》（Transcontinental Treaty，又称《亚当斯─欧尼斯条约》）中割让佛罗里达予美国。因此，他被认为是美国历史上“最有成就的国务卿之一”。

在1824年的选举团投票中，结果为99：84，亚当斯的竞选对手、民主党的安德鲁·杰克逊获胜。但由于候选人票数均未超过半数选举票，他与杰克逊之间的胜负迟迟不能判定。于是，选举机构又开始了重新计票。不料，由于亚当斯与杰克逊的票数实在是太接近了，重新计票的结果仍然不能很快产生。美国面临着在较长时间内没有总统的权力真空状态，这是美国独立后从未出现过的尴尬局面。最后，经美国众议院裁决，判定亚当斯胜出，才结束了久拖不决的局面。

1825年3月4日，亚当斯宣誓就任美国第六任总统并发表就职演说。成为美国第一位继承父业的总统。

具有明显的美国东部精英特色的亚当斯为人冷漠、固执、极度独立，因此未能在华盛顿获得他所需要的支持，甚至在自己的政党内部也是如此。

1828年，亚当斯的第一个任期即将结束，公民选举他当年的对手杰克逊为下届总统。亚当斯的连任竞选是美国总统政治中第一次真正的谩骂大选。杰克逊称亚当斯为奢侈腐败的贵族，亚当斯用道学的口吻指责杰克逊无知、粗俗，是谋杀犯和通奸者。公众以压倒性的表决反对他连任总统。在杰克逊击败亚当斯当选时，亚当斯宣称，他“几乎想不到有什么比担任总统职务更让他觉得饱受折磨，令他厌倦而痛苦的了”。

1829年3月4日，亚当斯正式卸任总统。竞选的失败，使亚当斯夫妇十分痛苦，他们在私下里表现出了沮丧和失望。亚当斯在1829年承认：“新年是在忧伤中来到的，我和妻子通宵失眠和痛苦。”当长子乔治去世以后，就更使他们愁上加愁了。后来亚当斯在日记还里写道：“我的政治生涯已如西山落日，堕入深渊了。”鉴于总统任期内及其前后不甚愉快的经历，亚当斯在败选后愤而归隐田园，连杰克逊的总统就职典礼都不愿意参加。

谋求连任失败后，亚当斯返回马萨诸塞州，消沉了一段时间后，又作为众议员返回华盛顿，直到1848年逝世。他成为美国历史上唯一一个以前任总统身份当选的众议院议员。

1833年冬至1834年之间，亚当斯与前民主共和党党员亨利·克莱等共组辉格党。1834年，作为马萨诸塞州州长的候选人，最终落选。

作为废奴主义者，亚当斯于1841年在美国联邦最高法院的辩论中担任助理辩护人，为在“艾米斯塔德”号船上叛乱并杀死船长的非洲奴隶赢得了自由。

1846年11月20日，亚当斯和一位朋友在波士顿散步时，患轻微的中风。虽然在休养几周后恢复了健康，但他的身体健康自此每况愈下。

1848年2月21日，亚当斯在华盛顿国会大厦起身回复众议长提问时因颅内出血，突然晕倒在俄亥俄州的戴维·费希尔议员的怀中。他被放在沙发上抬到议长室，右半身全部瘫痪。亚当斯意识到自己的生命已经垂危，他说“末日到了”，后来又说“但我心安理得”，“我满足了”。两天后（23日），亚当斯与世长辞，享年80岁（未满81岁）。根据他本人的遗愿，其遗体被运回家乡，后与父母、妻子定葬于马萨诸塞州昆西市的公理会教堂。

（晚年亚当斯图册参考资料）

在1847年生效的遗嘱中，亚当斯把他的8500册藏书和私人文件以及他在昆西的住宅和庭园留给了他唯一活着的儿子查尔斯·弗朗西斯·亚当斯，但规定他必须为住宅支付20000美元，这笔钱归入遗产。剩余遗产的大部分，包括波士顿和华盛顿市内及周围的其它各种产业，现款和股票，由他的妻子、儿媳、儿子及孙女等人继承。

作为马萨诸塞名门望族的代表，亚当斯坚持其父不党不派的独立立场，不仅不卷入政治纷争，甚至连与民众也保持一定的距离。他认为总统必须超越世俗利益。

亚当斯主张对宪法条文进行更广义的解释，扩大联邦政府的权力，以推进大规模的国内改良。例如，由政府部门有秩序地处理国有土地；征收高关税，以保护国内工商业的发展；由联邦负责人保护印第安人土地，使之免遭掠夺；由联邦政府采取措施，大力发展交通运输业，加快铁路、公路和运河的建设项目；政府还应承担起发展科学教育事业的重任，包括创办国立大学、天文台和资助科学研究和探险等。因其对扩大联邦政府权力的关注，故而使得一些历史学家把他当作“新国家主义”的先驱。

但在亚当斯所处的时代，人们对民主的一般理解是要求政府少所作为，加之南方各州担心他推行的国内改良计划会冲击奴隶制度，北方的许多人士对于他广义地解释宪法忧心忡忡，因此，他的主张带有超前色彩。由于没有在国内得到广泛的支持，致使他的计划大部分落空，只是在发展交通运输业方面有所收获。

亚当斯入主白宫之时，美国经济正处于一个高歌猛进的大发展时期。但落后的基础设施大大制约了繁荣的脚步。有鉴于此，亚当斯提出了一个发展基础设施的庞大计划，决定由联邦政府出资兴建高等级公路和运河网络。这个计划提出后，获得了国会的批准。

亚当斯上任伊始，就决心在高等教育领域来一番大刀阔斧的改革。他向国会提交了高等教育改革方案，提议由联邦和各州政府投资在全美各地兴办一批具有先进办学理念和一流师资、收费相对低廉的大学，让更多的年轻人有接受高等教育的机会。同时由政府制定法律，对私立大学进行整顿和规范，实行优胜劣汰，促使它们进行自我改造和变革。不久，亚当斯的教育改革方案在国会顺利通过。也就是从这时起，美国出现了国立大学。

亚当斯主张美国政府应遵守与印第安人签订的协议，即通过购买而不是强占来获得他们的土地。这触怒了急于获得印第安土地的南部和西部美国人，因而遭到了他们的反对。

亚当斯的外交思想与实践对美国早期外交产生了深远的影响。他的外交思想主要体现在四个方面：扩张主义、孤立主义、和平主义与经济外交思想。约翰·昆西·亚当斯的外交思想具有承前启后的作用，他继承与发展了开国先辈的扩张主义思想，并在外交实践中为美国在19世纪中期大规模的大陆扩张运动奠定了坚实的基础。他巩固与完善了开国先辈的孤立主义思想，并在外交实践中把这种思想运用到拉美地区。

但是一些外交努力由于反对派的抵制而流产。例如，1826年，他支持美国参加巴拿马会议，目的是通过支持拉丁美洲各国之间的合作，增强美国对这一地区的影响力。但由于南方代表在议会中的阻挠拖延，他的这一设想未能实现。

亚当斯还试图通过和平手段从墨西哥手中得到德克萨斯，并想说服西印度公司扩大与美国的贸易，均未成功。在任国务卿及总统期间，亚当斯都曾就俄勒冈地区问题同英国进行谈判，英国承认了美国对俄勒冈的主权，但关于俄勒冈的界线所在，始终没有明确。亚当斯引用《圣经》原文说服英国人，成功划定了两国在俄勒冈的边界。

乔治·华盛顿在1797年曾这样评价亚当斯：“亚当斯先生是我们派往国外的最有价值的政府官员……我内心仍然毫不怀疑，他将证明他自己是我们的外交使团中最有才干的人。”

波士顿《独立纪事报》称赞亚当斯是“美国参议院中最引以为自豪、最有天赋的议员”，认为“如果他能够在他的高尚的道路上坚持不懈地走下去的话，那么有一天他必将到达我们共和国的顶峰”。

波士顿银行家斯蒂芬·希金森批评亚当斯道：“就象一只没有尾巴的风筝，在企图升空时就急速地直线上升……但偶尔吹来一股普通的气流，就会左右摇摆，无法升到它预期的高度。”

众议员塞缪尔·英格拉姆说：“他被培养成了一个君主主义者，始终敌视民众的政府，尤其是敌视民众政府的伟大屏障一一投票权……他佯装变成了一个共和主义者，这只是为了使民主党堕落和衰亡，为在宪法中能使君主主义的和世袭的政府在美国得以建立而铺平道路。”

在亚当斯离去以后，马萨诸塞州牧师宗教改革者西奥多·帕克说：“奴隶失去了一个斗争越久就越是热诚有力的斗士；美国失去了一个真心实意热爱她的男子汉；宗教失去了一个支持者；自由失去了一个可靠的朋友，而人类失去了一个不可剥夺的权利的崇高维护者。”

威廉·哈里森：“据说他是一个令人厌恶得要命的人，他的谈吐粗俗、下流和可笑，他的见解完全取自书本，因此僵硬而又抽象。”

美国历史学家小阿瑟·迈耶·施莱辛格认同亚当斯是20世纪美国保守派的楷模。

与施莱辛格同时代的美国保守主义政治学者拉塞尔·阿莫斯·柯克评价道：“也许在美国政治史上，没有人比约翰·昆西·亚当斯更加诚实、更加勤奋或更能坚守直截了当的目标。可是，作为一名保守派思想家，约翰·伦道夫所谓的‘美国的斯图亚特家族’的第二个杰出成员却摇摆不定。他曾目睹过联邦主义的消亡；与托克维尔一样，他逐渐开始相信，民主的扩展是上帝护理的产物；他感到在处理美国事务时迫切需要保守主义的原则，不过，他从未搞明白该如何着手去干。……然而，作为一名保守主义思想家，他有所不足；作为一名保守派领袖，他则是不幸的。他对人之动机的怀疑超过了伦道夫；他对其同仁的态度也同样傲慢；而且他严厉的个性使其不可能获得民众的有效认同。”

在1962年历史学家的投票排名中，亚当斯名列31位总统（其中2人因任期短暂而不计入排名）中第13位，在12位“普通”总统中列于第2名。

美国历史学者约翰·马克·法拉格等在所著的《合众存异 美国人的历史》中评价：“和睦时代的外交成就几乎完全归功于一个人的努力，那就是门罗的国务卿约翰·昆西·亚当斯。”

亚当斯信仰唯一神教派，他对于自己的宗教信仰极为虔诚。在就职演说中，亚当斯他说：“除了神以外，‘无论守城人如何警觉也无法保住城市’，所以，我热情地祈求神的眷顾，并以谦卑无惧的信心，将我的命运和国家未来的鸿祉托付于他。”

亚当斯特别重视崇拜和修炼神灵。在总统任内，他利用每一个礼拜日，几乎访问了华盛顿所有的基督教教堂。他经常阅读《圣经》，并且思考《圣经》的教礼。

无论在婚前或婚后，亚当斯都是独自行事，对别人一直是个谜。在公众眼里，他是个冷漠、刻薄、脾气暴躁的老人。如W.H.林顿对亚当斯充满不屑：“在所有有幸和我搭话，并让我为之浪费礼节的男人中，他是最顽固，而且最彻头彻尾令人厌恶的一个。毫不客气地说，他的耳朵里塞着棉花，心里装满着愤怒……他就像是狗群中的一条牛头犬。”但是，对于与他同时代的政治家来说，亚当斯以才华横溢、历经磨难而著称。

亚当斯是第一位拍照留影的美国总统，他还喜欢在流经华盛顿的波多马克河中“裸泳”。当时，有一家媒体的女记者名叫安妮·罗亚尔一直想单独采访这位总统，但多次提出要求均被白宫婉言谢绝。一天下午，亚当斯走出白宫后，早有准备的罗亚尔就悄悄地跟在他后面，一直尾随到河边。在亚当斯脱光衣服跳进河里裸泳时，罗亚尔就走过去，一屁股坐在他脱下的衣服上。当亚当斯游泳完毕爬上岸时，罗亚尔就直截了当地威胁说：“总统先生，你必须答应给我一次访问，否则，你今天就别想穿衣服回白宫。”

亚当斯感到啼笑皆非，也提出条件说：“你必须依我两件事：第一，这只能是为谈话而谈话，绝对不准发表；第二，不谈政治，只谈其他。”罗亚尔于是挑了一个宗教信仰问题，在波托马克河畔进行了一次史无前例的采访。罗亚尔问道：“总统先生，听说你是一位虔诚的基督教徒，是吗？”亚当斯答道：“我是一名基督教徒。是否虔诚，这不是由我自己下判断的问题，这要由上帝来做出判断。”罗亚尔又问：“你为什么接受这种信仰？”亚当斯说：“我的家庭是一个基督教徒家庭，我小时候就接受洗礼，但这不是最重要的，重要的是我自己的生命和经历使我感受到神对个人灵魂的重要作用。更具体地说，神的教导，也就是《圣经》，对人的生活的重要意义。”罗亚尔接着问：“总统先生，你是否相信耶稣的复活？”亚当斯笑了笑说：“一个基督徒怎么能不信耶稣的复活呢！”罗亚尔抢上去一句话说：“人怎么能复活呢？”于是，亚当斯发表了他的一套见解：“人是不能复活的，但耶稣复活了，所以证明他不是人，而是神。当然，耶稣既是人，又是神。他有肉身，所以他是人；他能死而复活，所以他又是神。”由于昆西·亚当斯熟读《圣经》，所以他可以利用《圣经》来进行辩论。

当罗亚尔走后，亚当斯感到这次接受采访完全是被迫的，而且毫无思想准备，回答的可能不完整，一旦公开，可能引起公众的误解。于是，亚当斯灵机一动，决定举行一次记者会议，把自己的真实想法和意思表达出来。于是，他返回白宫后立即邀请众多记者与会，向他们阐明了自己的观点，并且澄清了一些问题，以防出现不良后果。这个记者“补救会”后来被称之为“记者招待会”，并且流传开来，一直为世界各国沿用至今。

亚当斯在白宫的夜晚经常消磨在台球桌上。据说，就是因为他痴迷于这项爱好，受到政敌攻击，连任竞选时才输给了对手安德鲁·杰克逊。当时，打台球在美国几个州是非法的，因为这项运动常常与赌博联系在一起。但真正让亚当斯在政治上处于被动的原因并不是赌博，而是他挪用了将近100美元的公款玩台球。

亚当斯的遗著有《亚当斯会议录》《约翰·昆西·亚当斯文集》。其历史著作有：《德莫特·麦克默罗或征服爱尔兰：12世纪的历史故事》（诗集，1832年）、《詹姆斯·麦迪逊和詹姆斯·门罗的生平》（1850年）等。

亚当斯死后被安葬在美国马萨诸塞州昆西市昆西家族的墓地，随后与妻子改葬于昆西市第一教区的公理会教堂。这座教堂是由老亚当斯捐助建设的，是美国仅有的葬有两对总统夫妇的墓地。在亚当斯的墓碑上，他的儿子查尔斯·弗朗西斯·亚当斯写道：“半个世纪以来，只要祖国召唤他，无论在哪个半球，无论以何种身分，他总是为他的事业全力以赴。”