据史料记载和出土文物考证，磴口地区历史悠久，远在原始时代就有人类活动。秦统一中国后，这里属新秦地。汉武帝时设朔方郡，下设十个县，其中窳浑、临戎、三封三个县的古城遗址都在磴口境内，曾是汉朝在朔方的繁荣垦区，当时三县人口已达7万余人。有史记载，公元十年，“朔方无复兵马之上踪”，“数世不见烟火之警，人民炽盛，牛马布野”。在相当一段历史时期内，中国的统治者对此地鞭长莫及，边疆少数民族纷纷兴起，建立政权。北魏时，磴口地区属夏州；唐朝归夏州节度使；宋时、党项族渐强，建立西夏王朝，此地归天德军；元归甘肃路；清属宁夏道。清初、磴口地区即属阿拉善王爷封地。乾隆年间，选定磴口为吉兰泰食盐外运码头，并设衙署，驻扎司员，促进了蹬口地方手工业、农业和商业的发展。1926年，冯玉祥将军五原誓师后，向西挺进，路经磴口，为军需供应方便和与绥甘廊衔接，遂决定设“磴口兵站”，并于1929年1月经南京国民政府批准设县，归属宁夏。解放后，磴口县仍属宁夏管辖。1954年，甘肃、宁夏合并，磴口县直属甘肃省阿拉善自治州，至1956年，自治州改为巴彦淖尔盟，划归内蒙古自治区，磴口属其辖。1958年，巴彦淖尔盟与河套行政区合并，仍称巴彦淖尔盟，盟府设在磴口县巴彦高勒镇。1960年，撤销磴口县成立巴彦高勒市。1964年，撤销巴彦高勒市恢复磴口县。1971年盟府迁驻临河，磴口县为其所辖。