黄帝乘龙升仙的传说，自古以来便广为流传，醉心神仙长生术的汉武帝自然也多有了解，如今从公孙卿处得知了黄帝飞升的经过，汉武帝便也起了模仿之心。正如公孙卿所说，如今通过诚心祭祀已经得到了上天赐予的宝鼎，说明自己已经沟通了上天，如今与黄帝相比，自己所欠缺者便是登上泰山封禅，将自己的功业禀奏上天，从而获得上天的认可。
正因如此，自从得到宝鼎，汉武帝便与公卿大臣和众儒生商议起了封禅之事。
由于自上古以来，封禅大典很少举行，时间相隔久远，具体的礼仪已经失传，此前秦始皇泰山封禅，齐鲁儒生便始终无法就礼仪事宜达成一致，秦始皇最终贬退诸儒士不用，采用秦国祭祀礼仪率文武登山封禅，结果在泰山遭遇风雨，不仅没能成功封禅，反而因此遭到了齐鲁儒生的冷嘲热讽。
为了避免重蹈覆辙，汉武帝在封禅礼仪上慎之又慎，多次组织儒生进行讨论，儒生们商议后主张采用《尚书》、《周官》、《王制》中记载的天子射牛、望祀的仪式来进行。已经九十多岁的齐人丁公也参与了讨论，他说，“登泰山祭天的‘封’应该是不死的意思，早年秦始皇便没能登上泰山行封礼。陛下如果一定要上去，只要稍微登得高一些，就不用担心风雨阻挡了，也就最终可以登上泰山行封礼了。”
于是，汉武帝命令儒生们反复练习射牛，同时草拟封禅的礼仪。
元封元年（前111年）冬十月，汉朝先后攻灭了南越和闽越，又驱逐了西北西羌，东南和西北得以平定，汉武帝因此召集众儒生，说道，“古代帝王要先收兵止武，然后才能进行封禅”。
汉初以来，汉朝面临的最大威胁，便是来自于北方的匈奴和南方的越人，如今东南得以收复，但当时北方的匈奴人经过休养生息后，却再度开始南下威胁汉朝边疆，一时间兵戈难息，自然也就无法举行封禅了。
为此，汉武帝颁布诏书，“南越、东越都已收到应有惩罚，而西蛮、北夷尚未镇服”，遂决定亲自率领重兵巡视边疆，为此设置十二路将军，率领重兵经上郡、西河、五原，出长城后继续向北，登上单于台，至朔方郡的黄河边，勒兵十八万骑、旌旗径千余里，以彰显武力、威慑匈奴，并派郭吉出使匈奴，询问乌维单于是战是降，乌维单于虽然扣留了郭吉，但自负不是汉朝对手，只能遣使与汉朝修好，汉武帝见乌维单于态度恭敬，这才在桥山黄帝陵前祭祀了一番后，遣散军队返回长安。
回京途中，汉武帝询问身边儒生，“既然黄帝乃是飞升而去，并没有死，为何却会建有陵墓呢？”
这个问题，的确让一众儒生陷入了沉思，其中一人反应很快，回答道，“黄帝成仙升天后，臣民们因为思念于他，便将他的衣服帽子埋在了这里，所以才有了陵墓。”
汉武帝闻言，认为他说的很有道理，这才得以释然。回到甘泉宫后，为了确保泰山封禅的成功，汉武帝又去祭祀了泰一神。
此后数月，在汉武帝的命令下，朝廷上下开始积极筹备东巡和泰山封禅事务。
在此期间，公孙卿和一些方士，上书称黄帝以前的帝王举行封禅，都会招来怪异之物从而与神仙相通，汉武帝于是便想效仿黄帝，尝试迎接仙人蓬莱士，借此超乎世俗、跟九皇比德，为此让儒生们对自己多年来的功绩以文字加以修饰。
然而，就在汉武帝已经决定泰山封禅之时，儒生们却始终无法就具体的封禅礼仪达成一致，这些儒生们受《诗》《书》等古文经籍的束缚，既不知道变通妥协，又不懂得明辨是非，结果常常因为一些细节问题而争得面红耳赤，却谁也说服不了谁，因而始终难有定论，以致草拟礼仪事项陷于停滞。
汉武帝命人按照儒生们的建议打造了一批祭祀器物，儒生们看后有人却说这些器物跟古代的不同，不久徐偃又上书说太常祠官们行礼不如古代鲁国的好……
眼见这些儒生们整日捧着所谓“儒家经典”因为这些小事争吵不断，不胜其扰的汉武帝立时便怒了，随之贬退了召集儒生策划封禅事宜的徐偃、周霸，又将所有儒生全都罢黜不用，改由太常统领礼仪制定事务，太史公司马谈等人参与定制，结果仅用了月余时间，便敲定了所有祭祀礼仪。
元封元年（前110年）三月，汉武帝开始东巡，先到了缑氏县，登上中岳的太室山祭祀。祭祀完毕后，有人上报汉武帝，说是随从官员在山下听到好像有人喊“万岁”，但经过询问山上和山下之人，却都说没有喊过，因而感到十分奇异。汉武帝闻之大喜，下令封给太室山三百户以供祭祀，命名叫崇高邑。
之后，汉武帝继续往东巡游，来到了泰山郡，带人登上泰山，发现山上的草木还没有长出叶子，于是便命人将歌颂功德的石碑运送上山，立于泰山顶峰，又命相关官员留在泰山郡筹备封禅事宜，并下令从博县、嬴县分出一些土地设置奉高县，将泰山郡治移往奉高县，而汉武帝自己则继续向东巡游。
汉武帝一直东巡至海边，为了像公孙卿等人所说的那样招来怪异之物，以便在封禅时与神仙相通，汉武帝在海边举行了盛大的祭祀典礼，祭祀了天主、地主、兵主、阴主、阳主、月主、日主和四时主等八神。
与此同时，得知皇帝抵达齐地，此前没有机会见到皇帝的民间方士纷纷赶来，光是向汉武帝上书谈论神仙精灵和奇异方术的便有上万人。见状，汉武帝便从其中选了几人，让他们演示方术，结果没有一个灵验的。即便如此，汉武帝为了求见神仙，还是保留了一丝希望，又派人增派船只，让那些谈论海上神仙的方士出海去寻找蓬莱仙人。