成语是一种定型的固定词组，绝大多数由四个字组成。有一些成语，如“盲人瞎马、一刻千金、循循善诱”等，它们的早期形式是“盲人骑瞎马、一刻值千金、循循然善诱人”。原来是五个字或六个字，四个字的形式是后来出现的。它们不向七个字、八个字发展，而向四个字发展，这足以说明四字格是汉语成语的基本形式。
为什么汉语成语大部分是四字格呢？这与汉语本身句法结构和古汉语以单音词为主有关系，而且成语既要能表达深刻复杂的思想，又要极其概括精练，过长过短都不行，四个字最为合适。具体可分为以下两点来解释。
一是这和汉语的特点有关，汉民族讲话，在音节上大都是成双成对的。汉语讲究音律和谐，四个字的结构在诵读时恰好能组成抑扬顿挫的声调，富于音乐美，这有助于增强语言的表达效果。我国文学史上最早的一部诗歌总集《诗经》中305篇基本上都是四字一句，这种四字句，结构短小精悍，活泼明快，读起来抑扬顿挫，在后来相当长的一个历史阶段中，极大地影响着后世的诗人、作家及其作品，也影响着人民群众的语言。成语基本上源于古书和口语，因此成语以四字为多。
汉语讲究四声。四声是利用音高音长变化的差异构成的。一般地说，仄声较短促，平声较柔长。平仄声调的重叠相间，能显示声调的各种变化，抑扬顿挫，节奏性强，极富音乐美。而四字格的结构恰是适应这种声调变化的最简洁、最凝练的形式，试看以下成语声调变化的方式：
平平仄仄式：天翻地覆、明争暗斗、风吹草动；
仄仄平平式：饮水思源、水到渠成、柳暗花明；
平仄平仄式：惟妙惟肖、肝胆相照、发号施令；
平仄仄平式：身体力行、人面兽心、明辨是非；
仄平平仄式：海枯石烂、落花流水、虎头蛇尾；
仄平仄平式：趾高气扬、倒行逆施、丧权辱国。
这种平仄的配合十分协调，读来跌宕起伏，能构成和谐的声调美，是汉语特有的修辞手段。
二是成语的特殊使命方面的原因。成语一方面要表达比其他词汇更加丰富、复杂的内容，一方面又要像其他词汇那样简明而概括。这样，过长过短都不行。过长了，显得累赘，不符合精练的要求；过短了，又不易清楚地表达复杂、深刻的思想和认识。而四个字不多不少，最为合适。因为四个意义单位可以组合成任何一种结构关系，这些结构关系足以表达任何一种复杂的认识和思想。比如仅用“围魏救赵”四个字就描述了战国时一个有声有色的战役，并归纳出了这场战役所使用的歼敌有效的战术。这是形式极其精练，内容高度概括的典范。
四字格的结构，能构成各种复杂的语法关系，这对表达各种复杂的思想和认识来说，是必不可少的条件。可见，成语以四个字作为自己的基本结构形式，绝非偶然。
关于四字成语内部的结构，大体上可分为单一结构和复合结构。单一结构的成语内部的语素凝固成一体，共同表达一个固定的意思，不能分作两部分来分析其结构，如“乱七八糟、胡说八道、忸忸怩怩、慢条斯理”等。这种单一结构的成语为数不多。复合结构是指两个或两个以上的部分组成的结构。其结构关系主要有以下几种形式：
并列结构：青红皂白、风花雪月、千言万语、龙飞凤舞；
偏正结构：一丘之貉、匹夫之勇、侃侃而谈、摇摇欲坠；
主谓结构：万马奔腾、愚公移山、毛遂自荐、蜀犬吠日；
动宾结构：饱经风霜、顾全大局、隔岸观火、包罗万象；
中补结构：颠扑不破、体贴入微、重于泰山、感激涕零；
连谓结构：画蛇添足、见风使舵、过河拆桥、削足适履；
兼语结构：引狼入室、令人生畏、指鹿为马、请君入瓮。
前面曾提到成语在其结构上是具有凝固性的。它的结构和组成部分不能随意更改或变动。有的成语里有一组近义词或反义词。例如，“三言两语”中的“言”和“语”是意思相近的词；“大同小异”中的“大”和“小”、“同”和“异”都是反义词，这些都不能随便更换。再如，“奇装异服”中“奇”和“异”同义，“装”和“服”同义，有人将“奇装异服”写成“奇装衣服”，表面看只是写了个错别字，其实反映了没弄清成语的结构。例如，“两虎相斗”不能说成“三虎相斗”，“南腔北调”不能说成“东腔西调”，“盲人瞎马”不能说成“盲人瞎驴”。因此我们在使用成语的时候，应该格外注意，要恰当运用。