齐齐哈尔是 国家历史文化名城。 齐齐哈尔城始建于1125年，距今已有800多年历史， 清 康熙38年起作为黑龙江省省城，长达255年之久，以"扼四达之要冲、为诸城之都会"的紧要之地闻名遐迩，是一座历史底蕴深厚、地域文化纷呈的北疆边陲重镇。 

距今3万年前景星遗址是目前齐齐哈尔最早的人类遗址。早在一万年前，已有先民生息、繁衍在齐齐哈尔这块黑土地上。他们沿嫩江两岸而居，以渔猎为生。该阶段的代表史前文化有昂昂溪文化。考古发掘出的 鲜卑墓葬的遗迹表明，2500年前，齐齐哈尔已进入 铜器时代。

齐齐哈尔市区辖境， 夏商周时期属索离国；秦汉时为夫余国属境；魏晋南北朝时期属鲜卑和豆莫篓；隋唐时期属室韦都督府管辖。

辽代属上京路、东京路；

金朝 齐齐哈尔为 上京路所辖的 蒲裕路。管辖着 黑龙江中上游及 外兴安岭以北的广大地区。 蒲裕路是金朝北部地区的军事重镇与政治、经济、文化中心。 蒲裕路城是 齐齐哈尔建城的开始，齐齐哈尔以此距今已建城800多年的历史。 

清初，齐齐哈尔地区属盛京内务府管辖，不久归属宁古塔将军。

1683年（康熙二十二年）起，改属 黑龙江将军管辖。1685年（康熙二十四年），设卜奎驿站，逐步成为黑龙江西部地区诸驿站的中心，并发展为村落。

1691年（康熙三十年）， 清廷准奏在卜奎站建齐齐哈尔城，并授索伦总管玛布岱副都统衔，掌管建城事宜。

1699年（康熙三十八年），黑龙江将军衙门移驻齐齐哈尔城。直至1905年，黑龙江将军衙门与齐齐哈尔副都统衙门合署管辖齐齐哈尔，齐齐哈尔始成为成为黑龙江地区的政治、经济、文化中心。

1782年（乾隆四十七年），在齐齐哈尔成立“管理商民处”。

嘉庆年间，设“民官”番子章京。

同治年间，齐齐哈尔城设“总理查街道处”。后改为街道厅（又名理民厅）。

1905年（光绪三十一年），在省城设黑龙江分巡道及其所属的 黑水厅，管辖齐齐哈尔。次年，裁撤齐齐哈尔副都统。

1907年（光绪三十三年）， 清政府废黑龙江将军，建黑龙江行省，将 黑水厅改为 龙江府，齐齐哈尔由省垣巡警局和龙江府管辖。齐齐哈尔为 黑龙江省省会。

1913年，龙江府改为龙江县。

1923年，为促进市政改良，经黑龙江省长公署批准，在省城齐齐哈尔设立“省城市政公所”，作为办理省城市政事宜的总机关。

1924年，成立“黑龙江省城市政公所”与“省会警察厅”合署办公，管理齐齐哈尔市事宜。

1929年，“黑龙江省城市政公所”改组为“黑龙江省城兼商埠市政局”，主管黑龙江省城齐齐哈尔及商埠界内市政诸事，直隶于黑龙江省政府。

1931年“九一八”事变后， 日本帝国主义妄图侵占东北军事要地齐齐哈尔，黑龙江省政府主席 马占山，率领所部同日本侵略军开展了 江桥抗战，打响了 中国武装抗日抗战第一枪。

1932年，设置伪满龙江省，齐齐哈尔仍为省城。

1932年，设伪黑龙江省城市政局。

1933年，伪黑龙江省城市政局改称为伪齐齐哈尔市政局。

1936年，伪满洲国除设特别市 新京（ 长春）、 哈尔滨外，设三个省辖市： 奉天（ 沈阳）、 吉林和 齐齐哈尔。由此齐齐哈尔实行市制，建立伪齐齐哈尔市公署，隶属伪满龙江省公署。此为齐齐哈尔设市之始。

1945年8月19日， 苏联解放齐齐哈尔，市内所有日军驻地接受投降。日本帝国主义投降后，成立民主政权齐齐哈尔市政府。

1946年1月24日， 中华民国成立 嫩江省，省会齐齐哈尔。

1946年4月24日， 东北民主联军解放齐齐哈尔。

1947至1949年为 黑龙江嫩江联合省省会。

人民共和国时期

1949年，为 黑龙江省 省会。

1954年，黑龙江省会由齐齐哈尔市迁往 哈尔滨市，齐齐哈尔市始为省辖市。

1958年，齐齐哈尔市划归嫩江专区专员公署管辖。

1960年，嫩江专区撤销，其所辖各县划归齐齐哈尔市领导，始行市管县体制，齐齐哈尔市复为省辖市。

1961年，恢复嫩江地区专员公署，齐齐哈尔市及所辖各县归其管辖。

1964年，齐齐哈尔市再次改为省辖市。

1967年，齐齐哈尔市人民委员会撤销，成立齐齐哈尔市革命委员会。

1980年，齐齐哈尔市革命委员会改称齐齐哈尔市人民政府。

1984年， 中华人民共和国 国务院批准 齐齐哈尔为全国十三个具有独立立法权的 较大的市之一。

1985年，嫩江地区行政公署与齐齐哈尔市合并，再次实行市管县体制，齐齐哈尔市仍为 地级市。

2013年7月31日，将富裕县的塔哈镇划归齐齐哈尔市建华区管辖；将泰来县的汤池镇划归齐齐哈尔市昂昂溪区管辖；将甘南县的巨宝镇划归齐齐哈尔市梅里斯达斡尔族区管辖。