实际上，“伟大社会”的提出带有明显的实用主义色彩。约翰逊政府通过的立法措施无疑是战后历任政府所不及的，但立法上的成立并不等于“伟大社会”的实现，它也不能消除60年代兴起的社会危机。“伟大社会”措施既满足不了中下阶层群众和左翼势力的改革要求，又遭到保守势力特别是南方保守势力的强烈反对，造成两头不讨好的局面。约翰逊本人也承认：“对于大多数贫穷、失业、流离失所和一无所有的黑人说来是严酷的，他们仍处于另一个国度之中……对他们来说，墙越来越高，沟越来越深。”
二战后美国国内的一个尖锐的社会问题是对黑人的种族歧视和压迫。在就业方面存在种族歧视，黑人一般从事笨重的和最受轻视的劳动职业，平均工资只有白人的1／3～1／2，失业比例很高。在教育、住房、交通等方面存在明显的种族隔离现象。
在肯尼迪时期，就试图解决民权问题，通过有关民权法案。因此，1963年11月27日，约翰逊在刚刚上任后的国会两院联席会议上就说：“没有任何纪念演说和颂词能比尽早通过他曾为之奋斗的民权法更好地纪念肯尼迪总统。”
1964年6月19日，美国国会通过了民权法案，7月2日约翰逊总统签署生效。这一法案是自重建以来通过的最有影响的民权法案，它明确保障黑人可以和白人一样享用旅馆、饭店、娱乐休息等公共场所，禁止在公共场所实行种族隔离。它授权联邦政府可以提起公诉，要求取消公共设施和学校的种族隔离，司法部有权干预民权诉讼。保护黑人选举权，注销拨给带有种族歧视色彩的企事业计划的联邦经费。要求公司和工会给予黑人以平等的就业机会。并建立社会关系局，帮助各地区解决民权问题。亨利·康马杰称它是“自瓦格纳法和田纳西河流域管理法以来影响最深远的立法”。约翰逊在当天的广播演说中说：“民权法案既是对每个在社区、各州、国内工作的人的一次挑战，也是对每个真心想消除存在于我们可爱的国家里不公正的残渣余孽的一次挑战。”
1963年8月，著名的民权运动领袖马丁·路德·金在林肯纪念塔前发表了“我有一个梦想”的著名演说，他说：“我梦寐以求地希望，人人生来平等；我梦寐以求地希望，从前的奴隶的儿子和从前的奴隶主的儿子将会像兄弟般地在一张桌子旁坐下来；我梦寐以求地希望，这个国家有一天将不再根据他们的肤色，而是根据他们的品德来评定他们的为人。”
可是，黑人却觉得贯彻新民权法的速度太慢了。在约翰逊的第二届任期内，许多城市的黑人贫民窟不断发生暴乱。
1965年3月21～25日，金牧师在约翰逊的军队保护下，领导3000多群众由塞尔马向蒙哥马利和平进军。1965年8月11～19日，在洛杉矶的瓦茨区发生黑人武装狙击军警暴行的事件。同年8月12日，在芝加哥湖西区也发生了黑人同2000军警的两天武装斗争。这一年黑人武装抗暴斗争发展到9个城市。1967年，有128个城市发生了武装抗暴斗争。7月中，在新泽西的纽瓦克发生大规模黑人抗暴。
1968年4月，金牧师发动了一场向华盛顿进军的贫民运动。4月3日，他率领6000名抗议者进军孟菲斯，在共济会教堂发表演说：“我到了山顶。”第二天傍晚，他在洛林汽车旅馆遭暗杀。他的不幸去世引起了全美国黑人的巨大悲痛。
由于马丁·路德·金被刺，又引发了168个城镇的抗暴斗争。在美国黑人心目中，马丁·路德·金是他们的英雄和骄傲，送葬那天，约翰逊不得不下令所有政府机关下半旗志哀。4月10日，国会马上通过了消除在住房方面种族歧视的民权法案。
1965年8月6日，约翰逊又签署了国会通过的选举法，它规定司法部长有权指派联邦注册人员，到那些妨碍黑人自由投票的地方去进行监督，取消对选民进行文化测验和类似的资格审查等手段，并对干预正常选举权的行为进行惩处。
1968年4月10日，约翰逊总统还签署了第三个民权法案——开放住房法，禁止在住房方面实行种族隔离和歧视。以上3项法案，从法律上摧毁了重建以来美国南部形成的“詹姆·克劳”种族隔离制度。
此外，1965年10月3日，约翰逊总统签署了外来移民法修正案，结束了国民血统配额制的立法。
在外交事务上，约翰逊不像在国内事务上那样有成就。他出兵多米尼加共和国，企图阻止共产党取得那里的政权。这一行动引起拉丁美洲各国的恐惧，他们担心美国要推行一项新的“干涉政策”。后来美国部队并入由一位巴西将军指挥的美洲联军，这才使拉丁美洲各国消除了恐惧。不过，约翰逊真正倒霉是在越南战争上。为了阻止共产党人控制南越，他使美军的参战不断升级。到头来除了使这场冲突成为美国历史上代价最高的一场战争，而且除了使美国国内团结严重分裂之外，他什么也没捞着。越南的形势和国内的动荡不安，终于迫使他放弃了竞选连任的打算。
1965年4月，多米尼加共和国发生了叛乱，约翰逊派出2万名美军进行干涉。他的托词是：为了防止类似古巴事件的重演，为阻止共产党控制该国政权。后来这支美军被置于美洲国家组织的监督之下。多米尼加于1966年举行了选举，成立了一个新的政府。
在越南问题上，约翰逊遇到了更棘手的问题。他的前任艾森豪威尔总统和肯尼迪总统执政期间，美国向南越提供了军火并派出了顾问。后来，在1964年，美国的驱逐舰在东京湾受到了北越鱼雷艇的攻击。当年8月7日，国会通过了“关于东京湾事件的决议”，授权总统采取措施以“防止进一步的侵略事件发生”。约翰逊下令轰炸北越，并出兵与南越军队并肩作战。到了1968年，在越南作战的美军超过了50万。
约翰逊继承并扩大了这场战争，使美国在越南的泥潭中越陷越深。民意测验表明，由于日益增长的反战情绪，约翰逊已失去了大部分选民的好感。在1966年的国会选举中，民主党虽然仍控制着参众两院，但它的席位却大幅度减少了。到了1967年，约翰逊已被人们厌弃，对他的信任已到了谷底，几乎没有什么政府经历过这种俯冲式的威信暴落。
为了摆脱困境，约翰逊一方面照会北越，促其举行谈判以结束战争，但是北越对此置之不理；另一方面，他则坚持要求美国停止轰炸北越并从南越撤军。终于在1968年3月31日，约翰逊做了一次颇出人意料的电视讲话，他宣布：他已下令部分地停止对北越的轰炸，以表明美国要求谈判的诚意。同时，为了避免人们把他的这一行动误解为在给自己捞政治资本，约翰逊出人意料地声明：他不再竞选连任下届总统。北越人作出了积极的响应。5月里，美、越两国的密使在巴黎开始了面对面的谈判。
停战谈判从1968年的夏天延续到秋天，但没有取得积极的进展。这是因为北越入坚持要求美国先停止对北越的一切轰炸，然后才能就某些问题达成协议。于是，在10月31日，约翰逊总统宣布：他已下令停止对北越的一切轰炸，而且巴黎谈判的参加成员将扩大，让南越政府的代表和越共（即在南越的共产党）代表一同参加谈判。可是南越人拒绝与其仇人——南越的共产党人坐在一起开会，因此虽然停止了轰炸，谈判却依然不能继续进行。
约翰逊决定不再竞选连任总统的做法，恰好符合了美国历史上在这方面的先例——在美国历史上，凡是由于发生了偶然事件、而不是经由正式选举而成为总统的人，以后虽被正式选举为总统，但从未连选连任过。在他以前的人如约翰·泰勒、米拉德·菲尔莫尔、安德鲁·约翰逊、切斯特·亚瑟、西奥多·罗斯福、卡尔文·柯立芝以及哈里·杜鲁门等等；他们不是放弃竞选连任，便是在竞选连任中被击败。历史上只有两位副总统后来曾被选举连任过总统：一个是约翰·亚当斯的副总统托马斯·杰斐逊，另一个是在约翰逊之后的理查德·尼克松。