यमुना नदी का सबसे पहला उल्लेख ऋग्वेद (लगभग 1500-1000 ईसा पूर्व) में कई स्थानों पर मिलता है, जिसकी रचना वैदिक काल लगभग 1700-1100 ईसा पूर्व के दौरान हुई थी. बाद के अथर्ववेद और ऐतरेय ब्राह्मण और शतपथ ब्राह्मण सहित अन्य ग्रंथों में भी यमुना का जिक्र मिलता है.
सेल्यूकस I निकेटर ने 305 ईसा पूर्व में भारत की यात्रा की थी. उसके सर्वेक्षणों में यमुना का उल्लेख इओमेनेस (इओमेस) के रूप में किया गया है.
मेगस्थनीज ने 288 ईसा पूर्व से कुछ समय पहले भारत की यात्रा की थी और अपनी पुस्तक इंडिका में इस नदी का उल्लेख किया था. महाभारत में, पांडवों की राजधानी इंद्रप्रस्थ यमुना के तट पर स्थित थी.
विज्ञान कहता है कि एक समय में यमुना घग्गर नदी की एक सहायक नदी थी. बाद में इसने अपना मार्ग पूर्व की ओर बदल लिया और गंगा की एक सहायक नदी बन गई. हाल के भूवैज्ञानिक शोध से पता चलता है कि यमुना का गंगा की ओर मोड़ प्लीस्टोसिन के दौरान हुआ होगा.
भारत के अधिकांश हिस्से पर शासन करने वाले अधिकांश साम्राज्य अत्यधिक उपजाऊ यमुना किनारे ही थे. जैसे कि मगध , मौर्य , शुंग, कुषाण और गुप्त साम्राज्य.
चंद्रगुप्त द्वितीय (शासनकाल 375-415 ई.) के काल से ही गुप्त साम्राज्य में गंगा और यमुना दोनों की मूर्तियां आम हो गई थीं.
यमुना का उद्गम यमुनोत्री (उत्तराखंड) से होता है. उत्तराखंड से निकलने के बाद यह हरियाणा व दिल्ली होते हुए उत्तर प्रदेश में प्रवेश करती है.
यूपी के मथुरा, आगरा, इटावा और प्रयागराज इसके किनारे बसे हैं.
मथुरा नगरी यमुना के किनारे ही बसी है जो कि शूरसेन साम्राज्य की राजधानी थी. बाबर ने आगरा पर कब्ज़ा किया था जो यमुना किनारे बसा है. मुगलों ने फिर राजधानी दिल्ली को बनाया जहां से यमुना बहती है.