中国古代乐器的孕育及诞生，可上溯到原始社会。当时，人类在极其艰难的环境下生存，与虎、狼、熊等野兽抢夺食物。但人类与其他动物不同，有智慧，会思索，懂感情，能劳动，需要更多的表达方式，便利用石头、泥土、竹子、骨头等物质的撞击或其他不同的方式，使其发出音响，这就是乐器的雏形。之后经过不断地改进，使其能够发出更加美妙的声音，乐器就这样诞生了。
纵观中国古代乐器的孕育、诞生、成熟及发展，总是与社会不同时期的社会形态及民众生活密不可分。远古时期的乐器，以狩猎和伴舞用途最为广泛。根据出土实物证明，最早出现的是吹奏类乐器，如陶埙、骨哨、骨笛等。猎人们常常通过吹响骨哨来模仿鹿的叫声，吸引鹿群加以诱杀。这一时期，还出现了龠、管箫、笙等吹奏类乐器，以及磬、鼓等打击类乐器。但由于当时的生产力水平极为低下，乐器的发明也多以生产生活为主。尽管当时的乐器十分粗糙，却是劳动人民的智慧结晶。
夏商是奴隶社会发展时期，舞乐祭祀十分盛行。奴隶主将乐舞祭祀当作一种享乐，命令奴隶行祭时表演歌舞演唱，甚至殉葬。在这种情形下，许多活动氛围需要乐器的烘托，使用乐器种类也随之增多。有人认为，罄的出现是源于古代劳动人民生产工具，因它形似石犁、石锄。而作为撞击乐编钟的出现，则按照大小音律不同而分编成组，使其能够发出更加动听的乐鸣。这一时期的乐器无论是在做工还是质量上较远古时期都有了显著提高，对音程关系和调式也有了初步认识。
从西周至春秋，再到战国时期，数以百计诸侯列国中最后脱颖而出的战国七大强国皆以僭越称王。随着社会形态的演变，古典乐器的发展也呈现出繁荣景象，当时的乐器大多以青铜的编钟、编铙等为主，非青铜的乐器也已经有古筝、琴、笙和类似琴瑟的卧箜篌等。中国古代乐器的“八音”之说就是在这一时期出现的，这“八音”并非指8个音符或音节，而是指8类乐器，即：金、石、土、革、丝、木、匏、竹。“金”类乐器包括钟、铃、镈、镛、铙、笙钟、颂钟等；“石”类乐器包括玉磬、笙磬、颂磬、鸣球等；“土”类乐器包括埙、缶等；“革”类乐器包括县鼓、鼗、应鼓、搏拊等；“丝”类乐器包括琴、瑟、筑、筝等；“木”类乐器包括圄、柷等；“匏”类乐器包括竽、笙、簧等；“竹”类乐器包括箫、龠、笛、篪等。
秦汉时期，天下分分合合，乐器亦如此，不断的发展、融合，以吹管乐器箫、笳、角、羌笛等和打击乐器筑、鼓、铙、铮等为主的演奏形式成为时尚潮流。由于鼓吹乐高亢，常被运用到军事上，作为军乐使用。秦朝末年，由弦鼗发展而来的琵琶，有着清脆、短促、音调高的特点，使中国古代乐器更加丰富多彩。
魏晋南北朝，又称三国两晋南北朝，在频繁的政权更迭中，乐器种类不断增多，既有传统的打击乐器和管乐器，也出现了排箫等乐器，还有铜钹等外来乐器。这些乐器的使用和发展，不仅丰富了当时的音乐文化，也为后世的音乐发展奠定了基础。
隋朝时期，随着与西域文化的密切联系，乐器的数量骤增。打击乐器有铜板、腰鼓等30余种，弦乐器有弦琴、三弦等20余种，吹管乐器有幢箫、义嘴等20余种。在乐器上的重要变化是出现了拉弦乐器轧筝和奚琴，开辟了乐器演奏的新领域。
唐朝是中国历史上大一统王朝，国力强盛，经济繁荣，对外交往活跃，制度上也有重要建树，是当时世界上最强盛的国家之一。据统计，唐朝的乐器有300余种，到达了古典乐器发展史上的高峰。其中的二胡就是在唐朝时期的北方少数民族中出现的，渐渐在社会上以“胡琴”的名字流传。唐朝时期的乐器不但种类繁多，而且样式新颖、制作精巧、韵味充足。
宋朝时期，商品经济、文化教育异常繁荣。受其影响，少数民族乐器风靡一时，从草原流传而来的有马尾胡琴、月琴、渤海琴、丹布拉等50余种。
元朝时期，统一多民族国家进一步巩固，疆域超越历代。在这一时期极为流行乐器合奏表演，还出现了音色雄壮的唢呐，被作为军用乐器存在。
到了明清时期，封建社会由盛转衰，民间音乐慢慢替代了宫廷音乐。这一时期，音色宏大、刚柔相济的扬琴还由波斯传入了中原。
中华民族文化源远流长，并善于“古为今用”“洋为中用”，古乐器作为中华民族文化的一部分，是随着社会的发展而发展的。这些乐器不但演奏出了曼妙的音乐，也见证了历史的变迁和社会的发展。
