陇南回族，明代之后逐渐迁入者居多。有随丝绸之路经商贸易定居内迁的，有因广设屯兵而定居内迁的。元朝，回回军被编入探马赤军，“上马则准备战斗，下马则屯聚牧养”，是元朝戍边的一支重要力量。商贾中，以回回资本最着，势力最大，几乎寄居甘肃各地。明朝晚期，陇南回族同胞已经形成固定的聚居区，主要在徽州东关、礼县盐官和阶州城关一带，与汉民杂居。这是陇南最早的回族。
清真寺乃回族同胞礼拜之地。凡有回族同胞聚居的地方，皆建有清真寺。其凝聚和召唤之力非人力所能为。徽州东关明万历年间《重修礼拜寺碑记》，是我们了解东关回族同胞变迁史的有力见证。
碑文称，明代东关的回族同胞，是成化年间从关中迁来的，因“为山川之美”，在此定居，繁衍发展。东关为徽州膏腴之地，土地平阔，山川秀美，故而使他们流连不舍。又据县志载，又有因兵自云南慕名而来的，因避难投奔徽州的。清同治间西北回族起义失败后，陕西和甘肃张家川、礼县盐官等地无家可归者来徽定居。也有因通婚来自张川、秦安等地的。人口已占全县人口的4.21%。
明代朝廷尊重回族同胞风俗习惯，皇帝诏命修建寺院“以为敦礼”。清真寺遍及寰宇，而徽州尚未建院，徽州清真寺就是在此种背景下修建的。修建清真寺，一在敬天，二在祝君，三在修心养性。“礼拜无所，或失之亵陋”，遂在东郊三元宫之左创建了清真寺。第二次建寺是在嘉靖中，因寺宇复坍，乡耆马文礼相顾寺宇后深为感叹：“清静斋肃之地，使之至是。”于是，捐资备材，鸠工以建，不数月而成。新建寺宇，“宫墙严严，斋室翼翼”，废旧而鼎新，成一时之胜迹。
有了新建的清真寺，敬天、祝君、修心养性皆有了依托，人人心满意足。一曰，在寺内敬天，可报万物供养之功，地可知矣；二曰，在寺内祝君，可赞天子万寿之德，亲族可知矣；三曰，借助寺院修心养性，万境俱融，贞操可守，实践的形影可知矣。同时还可以敦仁尚义，积德除疾。“科第缙绅，声名文物，礼乐衣冠，悉由此出。”清真寺的功用是不小的啊。
东关清真寺历经几代人的修建，焕然一新，后人无所遗憾。“前通街衢，后罗兰坪”，“门墙俊伟，规模宏敞”。然而亦有所憾，憾在何处？寺内经常聘请阿訇传经教，往来同教鳏寡孤人等时有费用，寺内又无资可付，且诸事频加。于是于清代谒行募化，教民慨然乐输，又以会金助之，建成市房五楹。
清末的清真寺已十分壮观，不幸于辛亥革命初遭劫。1912年3月，北伐军司令李树勋率兵北上，以解天水被困之危。阿訇听信谣言，掩杀北伐军，俘21人。李树勋入城后用硫磺炮弹击燃清真寺，并烧毁民房700余间。省悟后，遂上书省府拨银2千两，修复了被焚毁的清真寺。如今，清真寺已占地3500平方米。三进三院。尤其那座临街而建的“怀源阁”即姆拉楼木质结构建筑，引人入胜。楼高15米，重楼三檐三层歇山顶，上覆筒板瓦和火珠脊兽。每层檐下均施透雕挂彩斗拱，刻工精细，具有浓郁的地方特色。门窗垂帘装饰透花飞禽走兽和翎毛花卉二十余种，皆取材于伊斯兰经典《古兰经》中故事，寓意含蓄，制作精巧细腻，形态生动，堪称近代工艺佳作。
礼县回族同胞是明嘉靖前后自四川迁徙而来。落脚地为盐官苏家城。远祖波斯人，经商自云南，再四川。也有自陕西旬邑迁来定居的。明末，盐官川、县城北关，已形成回族同胞聚居区。至清末，盐官、宽川、城关有清真寺数处。
明初，阶州回族同胞于柏林之腰坡和城关西南等地开始定居，并陆续修建清真寺。崇祯年间（1631），城关回族同胞重建清真寺，立碑记之，为城关清真寺最早的文字记载。此碑现存于武都城关清真寺院内。
回族信仰伊斯兰教。伊斯兰教是7世纪初阿拉伯半岛在激烈的社会动荡中，由穆罕默德创立的一种宗教，约在唐高宗永徽二年（651），由阿拉伯商人传入中国，与中国封建文化结合后，形成了中国伊斯兰教的四大门宦及其所属四十余支系。碑文对清真寺的“礼”“拜”二字从伊斯兰教义的含义上作了阐发，说明中国的儒教“大都只言归根复命之理，未悉归根之源”的道理，反复强调“予教诚真教哉”。伊斯兰教只遵循自己的经典，“誓不偕俗”。同时又强调了“济饥援苦，天下共为一家”，“入孝出第，四海联为同心”的思想。崇祯年间重建的清真寺，其规模非同过去。“栋宇崔巍，堂堂如虹，门观如垣，炜炜煌煌，泱泱渺渺，左雄右秀，龙翼鸾翔。”后来又建伴池，续黄堂，琳琳琅琅，宏伟壮观。