焦作行政区，早在8000多年前的母系氏族公社时期就已存在人类部落。夏朝属冀州辖，称覃怀地。《禹贡》分天下为九州，此属冀州。商及西周属畿内地，据《汉书·地理志》记载，周灭商之后，分属雍、邘、温三国；东周为晋南阳地，战国属魏、卫二国；秦归三川郡，汉至三国属河内郡；晋分属司州河内郡和汲郡、荥阳郡；南北朝分属河内郡、荥阳郡；后魏分属怀州河内郡、武德郡、司州汲郡、荥阳郡、东恒农郡（东魏，原武、阳武县属北豫州广武郡）；北齐属司州汲郡；隋属河内郡、汲郡、荥阳郡；唐分属河北道怀州河内郡、河阳三城使盟州（即孟州）、河南道河南府河南郡、郑州荥阳郡；五代归怀州、孟州；宋分属河北西路怀州河内郡、京西北路济源郡（治孟州）；金分属河南南路怀州、孟州；元分属燕南河北道怀庆路、孟州；明属怀庆府（治河内，今沁阳），隶属河南行省(后改河南布政使司）；清属河南省怀庆府，置河内县、济源县、修武县、武陟县、温县、孟县、原武县、阳武县。

1910年，清政府始置修武县焦作镇；1912年，废县存府，河内县改为怀庆府；1913年，废府存县，怀庆府改称沁阳县，原怀庆府各县属河南省豫北道；1914年，改河北道；1927年8月，析沁阳县东部置博爱县；1932年，原怀庆府各县隶属河南省第四行政督察专员公署；1945年9月8日，焦作解放，建立焦作市，隶属太行区第八专署，11月改为第四专署，辖焦作及温县、修武、武陟、博爱等县；1948年3月，太行第四专署撤销焦作市，改设焦作县；1949年5月，太行区第四专署改为新乡专署（驻焦作，1953年3月迁往新乡），辖焦作、新乡2市和获嘉、辉县、新乡、修武、武陟、沁阳、温县、博爱等9县。同年8月，中共平原省委和省人民政府在新乡成立；９月，平原省人民政府发布命令，新乡专署下辖新乡、修武、获嘉、武陟、焦作、孟县、沁阳、博爱、济源等15县，同月，焦作矿务局成立；10月，焦作县改为焦作矿区；1952年11月，平原省建制撤销，焦作矿区和济源、沁阳、温县、孟县、修武、武陟、博爱等县划归河南省新乡专署。

1956年7月9日，国务院批准河南省人民委员会《关于将焦作矿区改为省辖市的报告》决定：撤销焦作矿区，设置焦作市，由河南省直接领导；1958年12月，国务院批准将焦作市委托新乡专署（区）代管；1959年12月，修武县、博爱县划归焦作市；1960年8月，撤销修武县、博爱县和温县，其行政区分别并入焦作市和沁阳县；1961年10月，恢复修武县、博爱县、温县，隶属新乡专署；1974年1月，焦作市隶属河南省和新乡专署双重领导；1982年3月，省委、省政府决定，焦作市为省辖市；1983年9月，修武县、博爱县由新乡专署划归焦作市；1986年1月，济源县、沁阳县、温县、孟县、武陟县划归焦作市；1988年8月，撤销济源县，设立济源市（1997年1月隶属省辖）；1989年9月，撤销沁阳县，设立沁阳市；1996年5月，撤销孟县，设立孟州市；2010年3月，设焦作新区（2014年3月，更名为焦作市城乡一体化示范区）；至2019年底，焦作市辖沁阳市、孟州市2市，博爱县、武陟县、修武县、温县4县，解放区、山阳区、中站区、马村区4区和焦作市城乡一体化示范区。