રાયપુરના બ્રાહ્મણપારા વિસ્તારમાં હાલનું કંકલી મંદિર પાંચસો વર્ષ પહેલા સ્મશાન હતું. નાગા સાધુઓ સ્મશાનમાં માતા કાલીની પૂજા કરતા હતા, હાડપિંજરની વચ્ચે ચિતા બાળતા હતા, તેથી મંદિરનું નામ કંકલી મંદિર છે. નાગા સાધુઓ મા કંકલી સાથે ભગવાન શિવની પૂજા કરતા હતા.
એવું માનવામાં આવે છે કે શિવ ઉપાસના દરમિયાન પૃથ્વીમાંથી પાણીનો પ્રવાહ ફાટી નીકળ્યો હતો. શિવ મંદિર ડૂબી ગયું. આજે પણ 25 ફૂટથી વધુ ઉંચુ શિવ મંદિર પાણીમાં ડૂબી ગયું છે. માત્ર ગુંબજ જ દેખાય છે. તળાવમાં ડૂબેલા શિવલિંગની પૂજા તળાવના કિનારે ઊભા રહીને કરવામાં આવે છે. મંદિરની સામે એક તળાવ છે, જેમાં નવરાત્રીના છેલ્લા દિવસે જવારાનું વિસર્જન કરવામાં આવે છે. એવું માનવામાં આવે છે કે તળાવમાં સ્નાન કરવાથી ચામડીના રોગો મટે છે.
તળાવની એક ખાસ વાત એ છે કે આ તળાવ ચમત્કારિક છે. સરોવરમાં સ્નાન કરવાથી દાદ, ખંજવાળ, ખંજવાળ જેવા ચામડીના રોગોમાં રાહત મળે છે. નવરાત્રિ દરમિયાન, દૂર-દૂરથી ભક્તો ઘરે-ઘરે વાવેલા બીજ અને હોલ્ડિંગ્સનું વિસર્જન કરવા તળાવ પર પહોંચે છે.
ઉનાળામાં અહીંના ઘણા તળાવો સુકાઈ જાય છે, પરંતુ કંકાલી સરોવર ક્યારેય સુકાયા નથી. ભક્તો તેને માતા દેવી અને શિવનો ચમત્કાર માને છે. એવું કહેવાય છે કે તળાવની અંદર એક ટનલ છે, જે અડધા કિલોમીટર દૂર જૂના તળાવ અને મહામાયા મંદિરના પગથિયાં સાથે જોડાયેલી છે.
કંકલી મંદિરના પૂજારીઓનું કહેવું છે કે કંકલી મંદિર 500 વર્ષથી પણ વધુ જૂનું છે. તે સમયે આખો વિસ્તાર ગાઢ જંગલ હતો. જ્યાં મંદિર આવેલું છે તે જગ્યા સ્મશાન હતી. અઘોરી નાગા સાધુઓ પુરૂષ મૂંડ, હાડપિંજર સાથે તાંત્રિક પૂજા કરતા હતા. મા કાલી નાગા સાધુઓ દ્વારા પવિત્ર કરવામાં આવી હતી. સ્મશાનભૂમિમાં ચિતાને બાળ્યા પછી, હાડપિંજર (હાડકાં)ને તળાવમાં વિસર્જિત કરવામાં આવ્યા હતા. જેના કારણે તળાવનું નામ કંકલી સરોવર પડ્યું અને માતા કાલીનું નામ કંકલી પડ્યું.
જ્યાં મા કંકલીની મૂર્તિ હતી, તેને નાગા સાધુઓનો મઠ પણ કહેવામાં આવે છે. નાગા સાધુઓના મૃત્યુ બાદ મઠમાં જ એક સમાધિ બનાવવામાં આવી હતી. બાદમાં મઠની પ્રતિમાને મંદિરમાં ખસેડવામાં આવી હતી. મઠમાં હજુ પણ કબરો છે. પ્રતિમાને મઠમાંથી મંદિરમાં ખસેડવામાં આવ્યા બાદ આશ્રમ બંધ કરી દેવામાં આવ્યો હતો, પરંતુ પ્રાચીન શસ્ત્રો હજુ પણ ત્યાં રાખવામાં આવ્યા છે. વર્ષમાં એકવાર દશેરાના દિવસે તે શસ્ત્રોની પૂજા કરવામાં આવે છે. આશ્રમમાં કમંડલ, ચિમટી, ત્રિશૂળ, ઢાલ, કુહાડી, તલવાર સહિત અનેક શસ્ત્રો રાખવામાં આવ્યા છે.
એવું કહેવાય છે કે કંકલી મંદિરનું નિર્માણ મહંત કિરપાલ ગિરીએ કરાવ્યું હતું. માતાએ તેને છોકરીના રૂપમાં દર્શન આપ્યું પણ તે માતાને ઓળખી શક્યો નહીં. જ્યારે માતાનું અવસાન થયું ત્યારે તેની ઊંઘ તૂટી ગઈ અને તેણે ઘણો પસ્તાવો કર્યો. બાદમાં મહંતે જીવતી સમાધિ લીધી.