यह मंदिर नर्मदा किनारे ॐ आकार के पर्वत पर बसा है। यहां शिवलिंग की आकृति ॐ के आकार की है। इसी कारण इस ज्योतिर्लिंग को ओंकारेश्वर के नाम से जाना जाता है। मान्यता है कि यह एकमात्र ज्योतिर्लिंग है, जहां भगवान भोलेनाथ तीन लोकों का भ्रमण कर रात में यहां विश्राम करने आते हैं। माता पार्वती भी यहां विराजित हैं। रात को शयन से पहले भगवान शिव और माता पार्वती यहां चौसर खेलते हैं।
यही कारण है कि यहां शयन आरती भी की जाती है। शयन आरती के बाद ज्योतिर्लिंग के सामने रोज चौसर-पांसे की बिसात सजाई जाती है। रात में गर्भ गृह में कोई भी नहीं जाता लेकिन सुबह पासे उल्टे मिलते हैं। ओंकारेश्वर मंदिर में भगवान शिव की गुप्त आरती की जाती है जहां पुजारियों के अलावा कोई भी गर्भ गृह में नहीं जा सकता। पुजारी भगवान शिव का विशेष पूजन एवं अभिषेक करते हैं।
ओंकारेश्वर ज्योतिर्लिंग परिसर एक पांच मंजिला इमारत है। पहली मंजिल पर भगवान महाकालेश्वर का मंदिर है और तीसरी मंजिल पर सिद्धनाथ महादेव की। जबकि चौथी मंजिल पर गुप्तेश्वर महादेव और पांचवी मंजिल पर राजेश्वर महादेव का मंदिर है। ओंकारेश्वर में अनेक मंदिर हैं नर्मदा के दोनों दक्षिणी व उत्तरी तटों पर मंदिर हैं। पूरा परिक्रमा मार्ग मंदिरों और आश्रमों से भरा हुआ है। कई मंदिरों के साथ यहां अमलेश्वर ज्योतिर्लिंग नर्मदा जी के दक्षिणी तट पर विराजमान हैं।