胡惟庸的个人履历大致如下：凤阳府定远县（今属安徽）人。早年追随朱元璋起兵，颇受宠信。历任元帅府奏差、宁国知县、吉安通判、太常少卿等职务。
洪武三年（1371年）拜中书省参知政事。
洪武六年（1374年）七月，任右丞相；约至十年进丞相。位居百官之首。
洪武八年（1376年）李善长在扩大权势的过程中受了一点小挫折，因为他作为左丞相，受到了汪广洋弹劾为傲慢和不忠。汪广洋是高邮（在今江苏）人，自1355年以来一直为自己的前途命运奔波；他可能嗜酒，肯定对他的对手李善长怀有嫉妒心理。
有案可查的是，朝臣们第一次对胡惟庸的攻击是在洪武九年（1377年）八月份发动的。这时候，胡惟庸已经把那些在官场上的利益盟友提拔到了高级职位上，并且以各种理由和借口将他认为的反对者们赶出了帝国的权力要塞部门。
胡惟庸大肆排除异己的做法令官员们感到恐慌的同时，更多的是愤怒。浙江人御史韩宜可就在朝堂之上当着朱元璋和满朝文武的面攻击胡惟庸及他的两个盟友。他告发胡惟庸等人不忠于朱元璋，僭越了皇帝的权力，要求朱元璋把这帮人全部收监或者斩首。
朱元璋非但没有听从韩宜可的话，还命人把韩宜可交付有司并下狱。幸运的是这位御史并没有被处死，这是朱元璋在动手之前安定胡惟庸集团的缓兵之策。他在没有十足把握的时候，不不愿意打草惊蛇。
这次事件虽然没有撼动胡惟庸，但却引起了朱元璋与诸臣警醒。皇帝已经察觉到了胡惟庸在权力运行中的失控状态，尤其是当朱元璋听说胡惟庸有夺权的野心和阴谋，他知道，不能再这么继续等待下去，他必须采取措施。
洪武十三年（1380）正月的某一天，胡惟庸忽然对外宣称，自己家的旧宅井里涌出了醴泉，这是天降祥瑞的预兆，为了显示自己不敢独享祥瑞的端正态度，胡惟庸邀请朱元璋前去观赏此等稀罕之事。
这事来得过于蹊跷，既然是上天降下的祥瑞，作为皇帝的朱元璋又焉有不去之理？天下之大，只要我们稍加留心的话，就会发现全国各地每天都会有稀奇古怪的事情发生。而在那时，无法解释的事都会与天王老子扯上关系。皇帝是天子，上天捣鼓出来的玩意，天子又怎能不去捧捧场。
当朱元璋走到西华门时，突然有个太监闯到他的车马前，紧紧拉住了缰绳。太监像个天外来客，瞪着无辜的大眼睛直愣愣地看着朱元璋的銮驾，半天没说出一句话，却急得豆大的汗珠顺着脸颊往下淌。询问之下，才知这名太监名唤云奇。
真是吃了雄心豹子胆，小小的太监胆敢冲撞当今皇帝的圣驾。缓过神来的卫士们立即扑将过去，将云奇按倒在地就是一通乱棒，差点没把他活活打死在朱元璋的面前。
可无论怎么打，云奇一直用手指着丞相胡惟庸府邸的方向。这引起了朱元璋的高度警觉，他感觉事情来得太过于突然，其中必有隐情。他当即让车队返回，自己亲自登上宫城向丞相府邸方向望去。不看不知道，一看吓一跳。他看见了什么呢？，按照史书记载，朱元璋发现了胡惟庸家墙道里都藏着士兵，刀枪林立。
在这里，我们不得不佩服皇帝的眼神比我们普通人不知道要犀利多少倍，居然可以穿透厚厚的墙看见藏匿其中的刀兵，比红外线还要厉害。朱元璋当即下令将胡惟庸逮捕，并于当天将其处死。
这里有一个天大的疑问，那就是云奇身为内使，居西华门，离胡惟庸的府邸非常近。既然他事先已经知道胡惟庸想要谋逆，可为什么不提前告发。非要等到事发前一秒，才冒着杀头的风险拦驾阻止？况且如果胡惟庸真要谋反，也是秘密设下埋伏，怎么会堂而皇之地将刀枪亮在光天化日之下，让朱元璋登上城墙就可以一览无余。
史料记载，丞相谋反是天大的案件，胡惟庸当天就被下狱，当天就被处死，处置得如此匆忙，难免会让人疑惑。据《明太祖实录》记载，也就在事发的四天前，中丞涂节就已经告发胡惟庸谋反。以朱元璋猜忌多疑的性格，他怎么还会冒冒失失地去胡惟庸家看子虚乌有的祥瑞？可见，云奇告变是一件不太靠谱的事。
但无论过程是怎样的，胡惟庸谋反案成了板上钉钉之事。这件事前前后后纠结了长达十余年时间，成为洪武年的第一大案。
事后朱元璋还亲自颁布了《昭示奸党录》，告诫帝国的文武官员们，做臣子千万莫学胡惟庸，不然会落得很凄惨的下场。
这是一场早有预谋的布局？还是丞相胡惟庸真就有了谋反之意？
开国之初，朱元璋对自己的权力系统还没有完全腾出手来认真梳理，只是在自己的王朝体制的建立上照搬元朝时期的那一套，在中央仍然设立中书省作为辅佐帮助皇帝处理政务的机构。
中书省的权力结构设置是左、右丞相（后改名丞相），秩正一品；左、右丞，秩正二品；参知政事从二品，其属官有左、右司郎中，员外郎等官员。
在当时看来，中书省的权力极大，可以说是总领百官，工作事务涉及方方面面，就连帝国的一切命令及章奏也需要中书省呈转颁发，不然就视为违法和无效。除了人事任免权、决策权、行政权、监察权、财政权等大小不等的权力，中书省还同时掌管军权、军务。也就是说，靠着中书省一个权力机构的运转，皇帝就可以不用上朝了。
在这种权力背景下，皇帝坐在那里，不像是一个人，倒像是一个震慑人的牌位。丞相的权力也极大，真正的一人之下万人之上。就连后来盛极一时的六部长官也下辖于中书省，成为其属吏。从洪武元年起，中书右丞相徐达就一直是军中的最高指挥官，直到十七年以后他死在北京城。
从秦朝创立丞相制度起，排除一些历史时期出现的波折，丞相的权力时大时小。丞相制度天生就有个缺点：那就是皇帝和丞相的权力分配问题难以平衡。别小看这个问题，因为王朝的制度，皇帝是至高无上的独裁统治，官家集团只有一个老板，那就是皇帝，所有的人（包括丞相）都是给一把手打工的。
历史上先后曾经有过两次皇权与相权的博弈：第一次是汉武帝时。汉武帝刘彻一改过去“非有功不封侯”、“非封侯不拜相”的权力递增法则，让仅有儒生资格的公孙弘为相。如此一来，宰相对皇帝不仅再无居功之傲，反而对皇帝知恩图报；第二次是隋唐之时。官家集团将丞相之职分为尚书省、中书省与门下省三个部分，它们各司其职又互相制约。
丞相的特殊性质就在于，他是一人之下万人之上，如果处理得不好，皇帝太强势了，丞相就会经常换人，而且有可能是换一个杀一个；皇帝太软弱了，皇权就可能为相权所架空。
一旦这种局面形成的话，朱元璋所能做的只是根据丞相的建议发发圣旨就可以了，自己根本不用操什么心。时人可以不知道他朱元璋是谁，但一定会知道当今的丞相是谁，这是一件非常危险的事情。
朱元璋出身于草根阶层，在当了皇帝以后，他还是能够清醒地认识到自己的不足，文化底子薄，知识结构非常不合理。他在学习前朝明君圣主们治国的经验的同时，也以一个草根阶层的立场来观察自己的帝国和臣子。这时候他或许会想起前朝那些实权派大臣，很多人都是在掌权时说一不二，风头甚至盖过了皇帝。他或许还会想到，丞相因为权力过大就有可能干预到皇帝的意愿，甚至威胁到皇帝的权力地位，搞到最后自己的地盘自己也做不了主。比如东汉末年，那个挟天子以令诸侯的曹操。
这应该是朱元璋内心深处最大的忧虑，这种忧虑促使着他将会对本朝的权力结构做出重大的改革与调整。