1834年，英国数学家巴贝奇提出用穿孔卡片携带计算指令控制计算过程，设计了包括控制部分、运算部分和存贮部分的机械式计算机。但由于缺少必要的技术基础，这种计算机没有造出来。
1937年，美国人艾肯设计了和巴贝奇方案类似的计算机。艾肯是哈佛大学物理系的研究生，他的设计得到了国际商业机器公司的支持。1939年，这家公司派了4个有经验的工程师与年轻的艾肯合作。到1944年，这台使用继电器的机电式计算机研制成功并投入使用，每秒运算三次。
第二次世界大战促进了电子计算机的发展。在二战中，美国宾夕法尼亚大学的莫尔电工学院同阿伯丁弹道研究实验室共同负责，给陆军提供弹道表。这是一项十分困难的工作。每一张表都要计算几百条弹道，一个熟练的计算员用台式计算机计算一条飞行时间为60秒的弹道，要花20个小时。显然，已有的运算工具难以保证战争需要。
在此情况下，莫尔电工学院的莫希莱于1942年8月写了一份《高速电子管计算机装置使用》的备忘录，实际上提出了第一台电子计算机的初步方案。
这个方案得到了军方代表格尔斯坦中尉的支持，还引起了研究生埃克特的兴趣。经过格尔斯坦向军方申请，得到了15万美元的研制经费。这样，研制小组正式成立并开始了工作。24岁的埃克特担任总工程师，30多岁的莫希莱提供了计算机的总体设想，格尔斯坦则是个精明强干的组织者。
1945年底，这台计算机研制成功，第一台电子计算机出世了。
在这台计算机制造过程中，科学家们就已考虑设计更先进的计算机。
1944年夏季的一天，参加原子弹研制工作的冯·诺伊曼遇见了格尔斯坦，在交谈中了解到计算机的研制工作。冯·诺伊曼很感兴趣，几天后，他专程赶到莫尔，参加了对计算机的改进工作。
1944年8月到1945年6月，在冯·诺伊曼的领导下，研制小组制定了新的改进方案。重大改进有三方面：一是把十进位制改成二进位制。二是利用包含水银柱的特殊电路做存贮器。三是把程序外插变做程序内存。
按照这一新的设计，1949年英国首先研制出程序内存计算机，它有一个可以贮存一千多个数据的存贮器。后来，美国也研制、生产和使用了程序内存计算机。
1956年，用晶体管制成了电子计算机，这是第二代电子计算机，其运算速度成百倍地增长。60年代初，每秒运算几十万次的晶体管计算机问世。1964年，每秒二三百万次的大型晶体管计算机研制成功，并且成批生产。
60年代初期，集成电路取代了晶体管，出现了第三代计算机。60年代末期，每秒千万次的大型计算机投入使用。到70年代，大规模集成电路在计算机中取代集成电路，电子计算机进入了第四代。1978年每秒一亿五千万次的巨型计算机已经在运行。由于集成电路和大规模集成电路的发展，计算机出现了向小型化和微型化发展的趋势。到1977年，全世界已有微机800万台。目前计算机技术仍在发展之中，今后还会有什么新的突破，尚需拭目以待。