会馆的名称最初见于明代。刘侗《帝京景物略》卷一“文丞相祠”条：
今顺天府学，因宋文丞相义尽之柴市，祠丞相学宫中，曰教忠坊。丞相庐陵人，庐陵人祠丞相学宫外，曰怀忠会馆。教忠，长上志；怀忠，臣子志也。
其实，若舍名而论实，则会馆绝不始于明代，南宋早已存在；虽没有明说是“会馆”，但从外郡人在杭州所干的事情与后来会馆的事业无异这一点看来，我们实不能否认有会馆这一回事。南宋吴自牧《梦粱录》卷十八“恤老济贫”条：
杭城富室，多是外郡寄寓之人。盖此郡凤凰山，谓之客山，其山高木秀，皆荫及寄寓者。其寄寓人多为江商海贾，穹桅巨舶，安行于烟涛渺莽之中，四方百货，不趾而集，自此成家立业者众矣。数中有好善积德者，多是恤孤念苦，敬老怜贫，每见此等人买卖不利，坐困不乐，观其声色，以钱物周给，助其生理，或死无周身之具者，妻儿罔措，莫能支吾，则给散棺木助其火葬，以终其事。……
而且，杭州的同乡者又有组织会社来敬神的事迹，这也可见当时都会里同乡相互间不是没有建设的。同书卷十九“社会”条：
二月初三日梓潼帝君诞辰，川蜀仕宦之人，就观建会。
据日人根岸佶的研究，汉代京师的郡邸，不单为同郡人所共用，而且是同郡人的公产，实与现今的会馆无异。按郡邸，《说文》：“郡国朝宿之舍，在京者谓之邸。”《汉书》卷十九上《百官公卿表第七》：“主诸郡之邸在京师者也。”可是郡邸实不单是同郡官员的寄宿舍，除政治外尚有商业的意义，盖当时共同组设此种郡邸的太学生并不专去读书，还要去做买卖，那就是各自本郡的土产之出售。《三辅黄图》（按：今本《三辅黄图》并无下面引文，该引文实出于《太平御览》卷五三四《礼仪部十三·学校》引《黄图》）云：
元始四年，长安城南北为会市，“但列槐树数百行为队，无墙屋。诸生朔望会此市，各持其郡所出货物，及经书、传记、笙磬、乐器相与买卖，雍容揖让，或论议槐下。”
会馆的过去历史既明，现请更就某特殊会馆的本身述其沿革。广东人很早就与汉口通商，而位于汉口广东间的湖南湘潭更是贸易的要冲，故广东人与汉口贸易即以此为根据地。清初，南海、番禺、顺德、新会四县来湘潭做买卖的人乃合建会馆，其内祭祀关羽，初本四县人共同祭奠，后则分开。南海有粤魁堂，番禺有禺山堂，顺德有凤城堂，新会有古岗堂，各自设立规约，处理同县人事务；其与同县人有共同利害关系者，则取一致行动。他们往汉口贸易时，亦如在湘潭那样，于康熙五十一年（一七一二）建立会馆，乾隆九年（一七四四）又复增建。式样仿湘潭，后堂正中供武帝，即关羽。当时建筑用的瓦是从远隔三千五百华里的广东运来的，一切湖北省的材料都不用。其建筑之费力可想而知。四十余年后，堂宇荒废，乾隆五十四年遂又改筑，且增大其规模。但长发贼乱后，又复破坏不堪了。幸而咸丰以来，汉口因外国贸易而开放，商业大盛，故协四县人之力，又于同治年间重修成功。再后，汉口贸易更为发展，该四县人之来此经商者日益增加，乃于光绪四年（一八七八）各人醵款，并对他们的输出入货物加以若干课税，以作改筑增设之用，完成于光绪十七年。这就是岭南会馆。