乐府作为对艺术领域渗透的官方机构，早在秦朝便已成立，职能是收集民间歌谣，并予以规整分类。汉沿秦制，乐府作为一种官署保留了下来。经汉武帝时大规模扩充，汉乐府在音乐的收集、整理、创新等方面发挥了极其重要的作用。到魏晋六朝，将乐府所唱的“歌诗”称为“乐府”，于是所谓乐府便由机关的名称一变而为一种带有音乐性的诗体的名称。
乐府在收集民间诗歌时，并没有严格的“雅”“俗”之分（在此时，我们姑且将官方用诗歌认为“雅”，民间歌谣认为“俗”。当时的乐府诗来源主要有贵族颂歌、军歌和民间歌谣三类），汉武帝时，李延年甚至用大量的民间俗乐从事郊祀礼仪活动。这或许与高祖刘邦的平民出身有关，在这个时间段，儒学逐渐成为了官学，而属于儒学一部分的《诗经》也被拔高到了一个前所未有的高度，乐府诗成为当时唯一可以与《诗经》相抗衡的诗歌。两汉乐府诗都是创作主体有感而发，具有很强的针对性。激发乐府诗作者创作热情和灵感的是生活中的具体事件，乐府诗所表现的也多是人们普遍关心的敏感问题，道出了那个时代的苦与乐、爱与恨，以及对于生死的人生态度。
相对于《诗经》和《离骚》，乐府诗的出现和流行有其必然的因素。
其一，是乐府诗的语言淳朴，浑然天成，用今天的话来说，就是通俗。汉代尊儒，把《诗经》推到了一个很高的地位，可是《诗经》的时代毕竟过去了上百年，上百年前的俚语现在多半晦涩难懂（就好像我们现在看诗经一样），此时用身边的语言歌唱的乐府诗势必能够比《诗经》拥有更多的受众。
其二，是乐府诗内容的情节性，我们看《木兰辞》《孔雀东南飞》等就会发现，但凡流传久远的乐府诗，都必然会有情节在其中，或长或短。一般而言，拥有详细故事情节的诗歌往往能够在众口传唱中流传下来。
然而，由于乐府终究是附属于政府机构的组织，在选取的基础上更多的会受到当时的主流思想的引导，甚至一度作为地方官员用以标榜自己政绩的工具（因为乐府诗作为“民意”的代表更能上达天听），加之当时社会历史原因的影响，部分乐府诗实质上应该是出自知识分子的手笔（以《木兰辞》为例，很明显，这是知识分子借取民间传说的题材创作而成），所以，乐府诗的兴起在一定程度上代表了民间群体智慧的有限复兴。
不得不提的是，两汉，实际上是赋的时代，乐府诗在两汉成型，却在魏晋南北朝时期达到了它的巅峰。在这个时间段，统治者因为当时历史环境的变迁，逐渐放弃了对乐府诗的参与。乐府诗“官采”的形式消退，开始变得“名不副实”，而“乐府”也成为对于能够配乐歌唱的任何诗歌的统称。此时涌现了大量的佳作，如前文提到的《木兰辞》、《孔雀东南飞》，还有《上邪》、《有所思》、《敕勒川》等等。
乐府诗的兴盛，将中国诗歌拉下了诗经、楚辞的高端神坛，并由此掀起了通俗质朴的审美潮流，更加值得称赏的是，乐府诗逐渐呈现出格律化的倾向，即出现了押韵、每句字数相同等现象，为日后五言诗，乃至律诗的出现奠定了基础。
