甘粛省は700年以上の歴史があります。この歴史ある土地は古代農業の重要な発祥地の1つであると同時に古代中国人の主要な居住地でした。考古学的な遺跡からのたくさんの発掘物によって旧石器時代のおよそ20万年前に甘粛省に住み、自然と戦っていた祖先がいたことがわかりました。だから斉家文化や卡窑文化(早期奴隷社会や原始社会)を含む数千の新石器時代の遺跡があります。
大地湾遺跡(秦安国、天水の旧石器時代初期の遺跡)は古代建築学や古代人の言語や日常生活の調査に重要なデーターをもたらしている。中国人の祖先、伏羲は人々に漁や狩猟の技術を教えている。マルコポーロ(13世紀のイタリアからの有名な旅行家であり商人)は甘粛省に旅の足跡を残している。
秦の始祖は周の時代(BC1029~BC771)、甘粛省天水を支配しており陕西平野中央まで支配の範囲がおよんでいました。秦の皇帝(BC259~BC210)以後、中国全土は統一され临洮(甘粛省西)から東、陕西省北にかけて秦の長城が築かれました。
歴史が進むにつれて隋の時代(518年~618年)、唐の時代(618年~907年)には甘粛省は政治、軍事、文化の最盛期に入ります。そしてこの時代には 李渊(唐の時代の皇帝「高祖」)という政治家や有名な詩人の李义、作家の李公佐が登場してきます。シルクロードもまた最も繁栄した時期を迎えます。優雅な壁画と彫刻のある莫高窟は東晋の時代(317年~420年)に最初に作られ、北宋時代(368年~534年)、西魏時代(535年~556年)と北周時代 (557年~581年)と発展しました。そして隋と唐の時代には今日の姿となりました。
甘粛省は元の時代(1206年~1368年)に初めて省となり、中国国内を省に分けた最初の王朝です。