魏源北上京城，目的本是单一的，学习制艺举子业，参加顺天乡试，逐步走上锦绣大堂。可是，他志存高远，认为“学贵运时策”，又认为“能致用便是实学”，他亟望学以致用，皮囊中多装些运时之策；他更不满足于在经文及经注中讨日子，他游心于儒家经典，却强烈希望有新的发明、新的发展。这，就为他后来屡试不第、仕途坎坷，而学术成就颇大，目光犀利、思想超时埋下了种子。
初到京城，魏源先是赁屋独居，嘉庆二十一年（1816），始入工部侍郎李宗瀚家教馆。生活清贫，有时还不得不典衣以糊口。他在蒙馆曾有一诗记叙自己的贫困与孤寂。
壁立空瞻数仞墙，冬宵无酒更他乡。
生徒散去风闪烛，僮仆睡酣雷殷床。
从古饥寒皆得力，吾生难苦愧虚尝。
辞家王粲真何事，岁晚空令梦北堂。
人在困窘之时，会更加思念慈母的爱抚，魏源也如此；他甚至自比为依附刘表十五年的王粲，表达了自己此时不得志的心境。
第二年（嘉庆二十一年），二十三岁的魏源，来到京城已两年多了，突然接到父亲从江苏嘉定县诸翟司巡检任上寄来的信，感到特别亲切，便提笔写了一首诗：
塞雁江南至，严亲有报邮。
关山三地月，风雪五湖春。
汝力贫中学，吾宽客里愁。
寒衣曾赎否，年少惧交游。
贫中力学，可以宽严父之心；交游是否慎重，却使严父不得不谆谆叮咛。
魏源是不负父母厚望的，“三年长安住，艰苦厚自持”，越是贫困，他越是奋发。因而他对自己的仕宦前途是颇自信的：“预数秋闱后，还家慰母慈”；“《京师接家书》，《易》，尺蠖百年身”。他一定要伸直现在尚不得不委曲的大丈夫身躯！
嘉庆二十一年（1816）是子年（丙子），正是举行奉天乡试之年。魏源本有“预数秋闱后，还家慰母慈”的大志与自信，可是，他却冒着酷暑驱车回家了。连他的老师姚学塽也不了解其中奥秘，在为他送行写的诗中说：“火云烧长空，高鸟不敢飞。黑云忽翻墨，冻云沾人衣。问君有底急，盛夏驱车归？上云辞亲久，昔昔梦庭闱，梦中持连环，倚闾遥相曦。下云冠盖场，应接无时稀，不如扫一室，静对三绝韦。”久别慈亲，思念殷切，固可能是不应秋试、“盛夏驰车归”的原因之一，或者是真要摆脱种种应酬，回乡扫室静读？姚学塽当时也只能是猜测。
魏源没有参加乡试，绕道津、浦，途登泰山，然后到江苏嘉定，陪父亲溯江西上。回到家乡，已是这年冬天了。“饥寒三载归，南北万里程”，魏源是别有一番滋味在心头。
回到家乡不久，接到大弟魏浚也即将自江苏归乡的信，魏源亦喜亦忧，“初喜行绕室，继思还涕零”。家人团聚，自然笑在眉头喜在心。那么何所忧？一是忧团聚日有限，而别离日苦多，故他诅咒“何以为人子，飘泊风浪萍？两月旋即出，伯氏还远征”。伯氏，指二伯父魏辅邦，他即将去女婿《京师接家书》，姚学塽：《送魏默深省亲江南》，《姚敬塘先生全集》卷二《古今体诗》。《接家书喜舍弟归自江南》。
劳崇光家。二是忧家境困窘，并无改善，“频年家食缺，一身尤悔萦”，“将母苦不足，夜夜多哀声”。在这种状况下，他暗暗重下决心：“报亲万无一，学道百未宁。”所以，过了春节，魏源便去长沙设馆授徒。
又过了一年，日历已翻到嘉庆二十三年（1818），二十五岁的魏源，与同县人严安儒之孙女、严翊羲之女严氏在春光明媚的日子里结了婚。
不久，他应辰沅永靖兵备道、安徽桐城人姚兴洁之邀，到了辰州，纂《屯防志》和《风凰厅志》。这对魏源来说，固然是受人赏识，可在《志》中为后人留下了一些史料，同时可得到一笔润笔费，以补家用之不足。
魏源在家乡宴尔新婚前后的两年多，除一度去长沙，一度赴辰州外，其余时间都在家勤奋读书。他在寄给友人的诗作中自述此时的境况与心情道：
浮生廿四万尘缘，离父十年母五年。
诗酒久困尤悔戒，饥寒还与名利牵。
天风中夜惊游子，古意千年感逝川。
箧笥十篇曾子注，寒灯汗背对陈篇。
此诗当作于嘉庆二十二年（1817）长沙教馆时，年当二十四《接家书喜舍弟归自江南》。关于魏源结婚的时间，魏耆《邵阳魏府君事略》不载。此据黄丽镛《魏源年谱》及李瑚《魏源事迹系年》。
岁。一个二十多岁的青年，自感沉浮于“尘缘”之中，而“逝川”如斯，不能不于“寒灯”之下“汗背”苦读，又自觉因“饥寒”而不能远离追名逐利的俗念，心境是颇悲苦的。这四首寄董桂敷（字小槎）的诗中，还有一首云：
万象一灯回照中，沉沉人海夜窗同。
十年国士推梁苑，几处寒毡愧寓公。
默好深思还自守，动皆得咎岂关穷？
简编尺牍纷朱墨，此意蹉跎负此翁。
“默好深思还自守”，与其说是魏源的人格特征，不如说是他一生为人处事的准则与宣言。
在故乡扫室静读了两年后，嘉庆二十四年（1819），魏源第二次上北京，中顺天乡试副贡生。
中顺天乡试副贡生的这一年，有人说魏源赴山西入了学政贺长龄幕。此说大概始于陈沆，其《送黄修存南归》有“尊酒不仁，日饯离别，陆君东马，魏子西辙”句，自注：“默深之山西方伯幕”。一些《年谱》也持此说。但，魏源本人无此记载。且魏源此年的行迹，也表明此说不可靠。
其《出都前夕与周子坚夜步月下》诗云：“空明侵清寒，霜月同一气……月华侵人影，霜华自人迹。”故知他出京已是深秋时节。沿途，他过河北井陉县，作《井陉行寄感》；然后折而西南行，游嵩山，作《嵩岳》三首、《嵩麓诸谷诗》五首；至洛阳，作《太室行》、《少室行》、《二室行》；再折而西北行，抵潼关，作《潼关行示杨广文》二首；登华山，作《华山吟上》、《华山吟下》，又作《华山诗》三首、《华岳》三首、《华山西谷》四首；在关中，作《关中览古》五首，然后又折而西南行，入陕西子午谷，作《子午谷行》；游汉中沔县，作《三龙洞》三首；经栈道，作《栈道杂诗》七首；入四川，作《蜀道行》；上剑阁，作《剑阁》二首；达成都，作《锦城吟》；自水道至重庆时，作《嘉陵江中诗》三首；最后出三峡，作《出峡词》二首，已到了第二年（嘉庆二十五年，1820）春天。魏源自秋至春，前后三四个月，一路旅游，一路诗词，却不见一首反映山西山川的诗。故他是否入山西学政幕，很可置疑。
“去年风雪走燕关，今岁春明又报还。”魏源畅游冀、豫、陕、川四省之后，顺长江东下，到达了父亲在江苏的任所，途经扬州的瓜步洲时，作诗云：“冰消淮水知家近，春入吴舠在客先。”不久，又奉父命，回邵阳接母亲及妻室东下江苏，从此定居江苏。舟中，作五律《江行杂诗》八首，又作七律《江行杂诗》五首，自述道：“来自潇湘清绝《出都前夕与周子坚夜步月下》。12处，可曾楚树让吴烟。”其后，魏源又两次上京，参加顺天乡试，第一次是道光元年（1821），又中副贡生。第二次是道光二年（1822），中第二名。回江南途中，他第二次登上泰山，作《岱岳吟》、《泰山日观峰古封禅歌》等。
“读万卷书，行万里路。”这是中国知识分子自司马迁以来的优良风尚。魏源登泰山、嵩山、华山，走栈道，出三峡，浮湘江，行长江，扩大了他的胸怀，增长了他的见识。他在中南元后，又应直隶提督、贵州松桃人杨芳（1770-1846）之邀，去河北古北口，授馆杨氏家中。“暇时并访求古代之遗迹，山川之形势，关隘之险要”，魏源“好言西北地理，此亦有所助也”。
魏源六次到北京，均交游甚广。
在魏源邵阳家中的楹柱上有一联云：
尽交天下士；长读古人书。
此联似正为魏源一生行状的写照。他到北京后，第一件事是去拜见拔贡座师汤金钊，此时汤金钊正供职詹事府，任詹事。又去拜见前湖南学政李宗瀚，此时李宗瀚已升任左副都《江行杂诗》。
御使。魏源一度在李宗瀚家中设馆授徒，并得以借阅李家中的丰富藏书。
自然，他更去拜见湖南前辈陶澍和周系英。据《邵阳金潭魏氏一修族谱》称，安化人陶澍在出仕以前，因家境贫寒，曾慕名至魏源的祖父魏志顺处借贷，魏志顺慷慨借与。
后来，陶澍发达了，遣人还债，魏志顺又慷慨地说：“钱财为流通之物，吾非藉以谋利。但愿尔主人在官清廉，爱百姓，足矣！”有了这层特殊关系，正在京城任给事中的陶澍自会对魏源有所关照。至于湘潭人周系英，时任兵部右侍郎，虽位处高官，却好吟咏，偶见魏源的“诗篇敦雅，四出揄扬”，致使魏源“数日名满京师，中朝公卿争纳交焉”。故魏源一度在周系英家授馆，结识了他的两个儿子周诒棫和周诒朴，且交往颇深。周系英后因江西商贾与湘潭商贾械斗兼旬、闭城罢市一事牵连罢官。后，虽复职，但魏源仍为之忿忿不平。及周系英逝世后，魏源作《户部左侍郎提督江苏学政周公神道碑铭》，力辩湘潭一狱之冤，写道：“公文学在士林，典型在乡邦，政绩在海内，李君兆洛《行状》及《江苏清祠名宦公状》在。惟湘潭一狱本末，则迄今海内传闻，尚有不尽其情者，故敬揭国家所以重民隐、决壅蔽，使孤立朴诚之士百挤不倾，有以作百世子之气者于前。”这是后话，聊且附记于此。
魏源在京期间，与湖南同乡翰林院庶吉士贺长龄、太常寺卿唐鉴、浙江道监察御史欧阳厚均及邓显鹤、汤鹏、何凌汉、李象鹍、易润槐、陈起诗、陈起书、欧阳辂等以及同榜李克钿、何庆元时有往来。例如，嘉庆十九年（1814）九月三十日，唐鉴在其骈杏堂设宴，为欧阳厚均及陈沆出京送行，在座者有何凌汉、贺长龄、李象鹍、易润槐、魏源等人。魏源与陈沆还即席赋诗。又如，新化人欧阳辂因屡试不第，这年南归，魏源也赋诗送行。
不少非湘籍的士人，如湖北蕲水人陈沆、山西阳城人李毅、江苏丹徒人陆献、安徽桐城人汪正鋆汪正荣兄弟、安徽桐城人刘开、安徽婺源人董桂敷、江苏长洲人陈奂、福建侯官人林则徐、湖北汉阳人关钧、浙江鄞县人陈仅、浙江会稽人宗稷辰、浙江会稽人潘谘、浙江湖州人凌堃、浙江仁和人龚自珍、安徽桐城人姚莹、福建建宁人张际亮等，都是魏源在京期间先后结交的朋友。他们或切磋学艺，或畅论时务，时有聚会，亦时有诗词赠酬。陈沆的《简学斋诗稿》不仅与魏源的《清夜斋诗稿》合刊过，而且陈沆虚心实情地请魏源批阅或写题跋，先后达八次。第四次在嘉庆二十四年（1819）孟冬，此时陈沆正是新科状元，而魏源仍不过是拔贡生；第五次在道光二年（1822），陈沆此时已是监察御史，而魏源不过是刚刚通过奉天乡试的举人。可见他们二人之间不论地位，交谊极深。陈沆去世后，魏源还将自己写的《诗比兴笺》交给他的儿子陈廷经，叫陈廷经托名“陈沆”刊行此书。
意气相投，才学并埒，都攻今文经学，都放言时政，主张相通，时人并称“龚魏”。魏源与董桂敷的关系至久至深。董桂敷是嘉庆十年（1805）进士，魏源于嘉庆十九年初至北京时，董桂敷早已是编修，故魏源始终称他为师，“寤寐尚滋严惮益，关河千里亦吾师”。他们二人是忘年交，一起研究古文辞。后来，董桂敷因病回到了江南，主讲于江西豫素书院，魏源作《寄董小槎编修》诗四首，开篇便深情地写道：“江都讲席隔经时，岁幕寒云有所思。”魏源又作《偶然吟》十八首，寄给董桂敷，并且在自注中盛赞道：“董先生经明行修，一代大儒，不以诗名。然即其诗亦出入陈伯玉、韩昌黎间。”他还打算把董桂敷的八十首《感遇》诗，选四十首，成集刊行，只是因故未成功。
在京期间，魏源还因前辈学者的提携和自己的真才实学，被邀参加过多次文人集会。例如，嘉庆二十四年（1819）七月初五日，胡承珙、胡培翚等人在北京广渠门内万柳堂祭祀汉学家郑玄诞辰，魏源亦参加。这类活动，使魏源结识了更多的新师友，增长了自己的学识。
由于清代的科举考试以四书五经和宋儒的注释为范围，魏源初亦潜心过程朱之学。在京师，魏源“问宋儒之学于姚敬塘先生学塽”。道光二年（1829），魏源“拜公于京师水月庵，以所注《大学左本》就正。先生指其得失，憬然有《寄董小槎编修》，悟，遂请执弟子礼，先生固辞，而心中固终身仰止矣”！姚学塽告诫魏源，治学“在致力于知本，勿事空言而已”。所有这些交往，都影响着魏源终生的学术活动。后来，魏源作《归安姚先生传》，对他的人品和学问推崇备至。
但，初在学艺中游览的魏源，思想并未定型，也与座师汤金钊一样，治学不问门户。嘉庆十九年，他刚到京师，便“从胡墨庄先生问汉儒家法”。墨庄为胡承珙之字。胡承珙时在京师任御史，专意于《毛诗传》，着有《毛诗后笺》。魏源后来对《诗三百》的研究，即是从受益于胡承珙开始。
在京师期间，魏源“学《公举》于刘申受先生”。这更是决定魏源终生的学术道路的学习。魏源笃信今文经学、研究今文经学，便是从这里起步的。
魏源于学术，广收博取，刻苦研求。他年方二十四，即开始注《曾子》。他认为，《曾子》“十篇之不列于《四书》，乃儒林憾事”。指出：“曾子之以书传，非曾子意也，其意盖将以夏道之忠救周文之敝，所谓‘依乎《中庸》，遁世不见知而不悔’者也。宜乎后世不深知而浅近视之也。”故他不揣“区区之力”，辑纂《曾子章句》，“以《曾子》十篇并《孝经》次《大学》之后”，以彰曾子之学。董桂敷读后，致信魏源说：“尊着《曾子章句》，简当分晓，自无可议。”惜《曾子章句》（亦称《曾子微》），今不传。
他又认为，“正、修、齐、治、平之理，朱子《或问》、《文集》、《语录》屡言及之，本末不偏，惟未晤古本分章之条理，而误分经传，加以移补，遂留后人之疑。”“明代高忠宪公及国朝李文贞公，并力主古本之义。即宋儒陆子言格物，亦与朱子无殊。但俱未有成书，则古本义终未着。”故他力饰《大学》古本，将其经文分为《致知章》、《诚意章》、《正修章》、《修齐章》、《齐治章》、《治平章》等六章，“一循古本之旧，不分经传，尽录《朱子章句》原文于下，即以今本之说，注古本之书”，而成《大学古本发微》（亦称《大学古本》），并于嘉庆二十五年二十七岁时为此书写作了自序。当他埋头整饰《大学古本》的时候，竟然有五十多天没有去问候座师汤金钊。汤金钊以为他患病了，屈尊去探问他。他慌忙从屋内出迎，蓬头垢面，汤金钊非常吃惊。及至他呈上《大学古本》求教时，汤金钊才放下悬悬之心，知道久不相见的原因，叹道：“吾子勤学，罕觏乃深造至此！然而，何不自珍乃尔也？”
后来，有人记述魏源苦读的情状说：“及居京都，破屋昏灯，敝冠垢履，数月不易衣，屡旬不剃发，以搜索古籍……长安人海中，红尘滚滚，毂转如雷，若不闻于占毕之耳，即有覃研之士，念虑杂者无其专一，作辍间者无其强毅也。”这是魏源在北京的一张最生动的求学照片。