巫蛊之祸所以发生，是和武帝笃信神仙方士之说、迷信思想严重，加之刚愎残暴、重用酷吏分不开的。继位后不久，他就召方士、炼丹药，寻求长生不老之术。其后还多次出巡，封禅泰山，或者到东莱（今山东莱州）海边去寻找神仙。
他之大修宫室，掏空国库，一方面是为了享乐，另一方面也是相信了方士的话，建高楼通天，好拉近自己和仙人之间的距离。元鼎二年（前115）十二月，起造柏梁台，用铜做成承露盘，高20丈，粗可7人合抱，上铸一枚巨大的“仙人”手掌，以承接露水，据说这些露水和着玉屑服下，就可以长生不老。
有个方士叫做栾大，很受武帝信任。栾大曾经吹嘘说他见过安期生、羡门高等仙人，又说：“黄金可以炼成，黄河决口可以堵塞，不死之药可以求得，神仙也可以招来。”武帝竟然信之不疑，封他做五利将军，赐予万金，还把自己的女儿卫长公主嫁给他为妻。
李夫人去世以后，武帝每每思念，寝食难安，有个叫少翁的方士就夸口说能招来李夫人的魂魄，和皇帝再见上一面。于是在晚上布设帏帐，点上灯烛，请武帝身居其它的帏帐中观看。武帝果然看到对面帏帐中出现一个女子的身影，好像李夫人，又好像不似，他更为悲伤了，做歌道：“是邪，非邪？立而望之，偏何姗姗其来迟！”
在足够幼稚轻信，被方士们骗得团团转的同时，武帝还宠信张汤、义纵、江充等酷吏，加重刑法，屡兴大狱，以维护自己的残暴统治。元光五年（前130），太中大夫张汤和中大夫赵禹共同制定律令，深文周纳，创“见知法”，即官吏见到、知晓他人犯法而不举发，是为“故纵”，要与犯法者同罪。
元狩元年（前122）春，淮南王刘安、衡山王刘赐谋反，事泄自杀，张汤兴起大狱，列侯、朝廷高官、地方豪强因此被处死的，竟达数万人。
元狩六年（前117），大农令颜异因为诽谤皇帝而被逮捕，张汤对他的判决是：“不入言而腹诽，论死。”腹诽竟然成为公开罪状！天汉二年（前99），李广的孙子李陵出击匈奴，以五千对八万，恶战到箭矢用尽，才被迫投降，武帝听说后竟要诛灭李陵全家。《史记》的作者、太史令司马迁上书为李陵求情，武帝认为是故意对照讽刺李广利，遂处司马迁以腐刑（割去生殖器）。他进入老年以后，已经完全听不进臣子的任何意见了。
武帝曾下令“告缗”，即为了抑制豪强势力，增加国家税收，鼓励百姓告发隐匿财产不报的人，规定告发者可以得到隐匿财产的一半。元鼎三年（前114），任命杨可主持“告缗”，杨可“告缗遍天下，中家以上，大抵皆遇告”，结果“得民财物以亿计，奴婢以千万数，田，大县数百顷，小县百余顷，宅亦如之，于是商贾中家以上大抵破。”
巫蛊之祸以后，武帝想念废太子刘据，深为自责，他还建了一座“思子之宫”，以寄托哀思。大概受到此事的影响，他逐渐收敛了自己奢糜放纵的行为。征和四年（前89）三月，他最后一次封禅泰山，接纳田千秋的建议，决定赶走方士，不再寻求神仙。他对臣子们慨叹说：“我原来糊涂，被方士们欺骗了。天下哪有什么仙人，全是妖言妄语！顶多节制饮食，吃点补药，可以少生病罢了。”
六月，搜粟都尉桑弘羊请求派兵驻守轮台（今新疆轮台）并屯田，武帝反对，遂下了著名的《轮台罪己诏》。文中说道：“曩者，朕之不明……故兴遣贰师将军，欲以为使者威重也……乃者贰师败，军士死略离散，悲痛常在朕心。今请远田轮台，欲起亭隧，是扰劳天下，非所以优民也。”
最后还说：“当今务在禁苛暴，止擅赋，力本农，修马复令，以补缺，毋乏武备而已。”——“以前，都是朕心不明……所以派贰师将领领兵去大宛，是希望威吓对方，交出天马……等到贰师将军战败，士兵死伤的不计其数，朕到现在还一直感到悲痛。现在大臣们请求派兵去遥远的轮台屯田，是使天下人为此而辛劳，不是安抚百姓之道。’最后还说：‘当今最重要的是要禁止苛暴的政治，停止随便增加赋税的行为，全力发展农业生产，军事上只要继续大量饲养马匹以补缺额，不使武备废弛也就可以了。”——从此不再对外用兵。
此时武帝已经68岁高龄了，他自知时日无多，开始再次考虑接班人的问题。他最后一个宠爱的，是年轻貌美的赵婕妤，就决定立赵婕妤所生的儿子弗陵为太子。
赵婕妤是河间（今河北献县东南）人，从小就有残疾，两只手总握着拳头舒展不开来。武帝打猎经过河间，听说了这件事，就好奇地前往查证，结果经他一掰，赵婕妤的双手竟然能够舒展开来了。于是武帝就领她进宫，号“拳夫人”，因为居住在钩弋宫，也称“钩弋夫人”。
太始三年（前94），钩弋夫人怀孕14个月生下一子，武帝大为高兴，说：“我听说尧是怀孕14个月诞生的，没想到现在我的儿子也是如此。”特意把钩弋夫人产子时所居屋门称做“尧母门”。其后太子刘据自杀，另几个儿子早夭的早夭，不成器的不成器，只有那个14个月才蹦出来的刘弗陵虽然年幼，却健康、聪明，很得武帝欢心。武帝遂决定立刘弗陵为太子。
后元二年（前87）二月，武帝病重，光禄大夫、霍去病的兄弟霍光哭着问：“如有不讳，谁当嗣者？”武帝说：“我立少子，让你做周公。”霍光磕头说：“我的才能、德行，都不如金日磾。”金日磾本是匈奴降人，赶紧谦逊说：“我是外国人，不敢和霍光比。”于是武帝拜霍光为大司马大将军，拜金日磾为车骑将军，又召来太仆上官桀为左将军，搜粟都尉桑弘羊为御史大夫，让他们接受遗诏，辅佐少主。
可是在咽气之前，武帝先命人缢死了太子的母亲钩弋夫人。霍光惊问其故，武帝说：“孩子还小，他的母亲还很年轻，将来寡居寂寞，一定会秽乱宫帏，如果插手政务，那就更了不得了。我不想女主称制的局面重现。”他的思虑确实很有道理，然而立其子而杀其母，这份心肠不可谓不狠毒。
次日，武帝即病逝于五柞宫，刘弗陵继位为汉昭帝，时年仅8岁。