“克拉玛依”是维吾尔语中“黑油”的音译,因市区东北部有天然沥青山丘——“黑油山”而得名。
公元657年,唐朝平定西突厥汗國後,在其地設鹽泊都督府,歸安西大都護府治下的昆陵都護府管轄。
1951年,新疆油田公司的前身中苏石油公司开始在克拉玛依普查勘探,在此之前克拉玛依市区没有任何人居住。
1955年2月,成立独山子矿区行政工作委员会。
1955年10月29日,位于现克拉玛依市克拉玛依区的克拉玛依一号井喷出工业油流。
1956年,成立县级建制的独山子镇,直辖于自治区。同时期,克拉玛依油田进入大规模开发和建设时期,石油工业的不断发展和人口的不断增加使城市初具雏形。
1958年5月29日,设立县级克拉玛依市,行政区域包括克拉玛依、独山子、奎屯、六十户、乌尔禾、百口泉、红山嘴、前山涝坝、白碱滩、小拐、中拐、大拐等地。6月17日,撤销独山子镇,克拉玛依市下设独山子区和乌尔禾区。并在克拉玛依、大拐、中拐、小拐等地设立3个街道办事处。克拉玛依市受自治区直轄。7月25日,克拉玛依市正式成立。
1975年8月29日,设立縣級奎屯市,以克拉玛依市的部分地区为奎屯市的行政区域,由伊犁哈萨克自治州管辖,伊犁哈萨克自治州首府由伊宁市迁至奎屯市。
1982年2月16日,克拉玛依市由县级市升格为设区的地级市。市下设4个区:独山子区、克拉玛依区、白碱滩区、乌尔禾区。
1984年8月17日,克拉玛依市为自治区直辖的不设区的县级市,市下设街道办事处、乡和独山子镇。
1990年1月8日,克拉玛依市恢復为设区的地级市[3],下辖4个区:克拉玛依区、独山子区、白碱滩区、乌尔禾区,2个乡:乌尔禾乡、小拐乡,6个街道办事处(天山路、胜利路、金龙镇、五五新镇、三平镇、百口泉),克拉玛依市受自治区政府直轄。