भागलपुर के सुल्तानगंज उत्तरवाहिनी गंगा तट पर विशाल ग्रेनाइट पत्थर पर अवस्थित अजगैविनाथ धाम का पुराना और रोचक इतिहास है। मंदिर के बारे में कई मान्यताएं हैं। बताया जाता है की मंदिर का इतिहास हजारों वर्ष पुराना है यहां अब तक 18 महंत हुए। पहले महंत सिद्धार्थ नाथ भारती और केदारनाथ थे दोनों हर दिन उत्तरवाहिनी गंगा से जल लेकर बैद्यनाथधाम जाया करते थे। एक दिन भगवान भोलेनाथ ने ब्राह्मण रूप धरकर उनसे जल मांगा।
महंत ने जल नहीं दिया इसके बाद भी भोलेनाथ महंत के साथ-साथ चलते रहे महंत ने उन्हें अपने असली रूप में आने को कहा इसके बाद बाबा बैधनाथ प्रकट हुए और महंत से कुछ मांगने को कहा दोनों ने कहा हमें अपने चरणों में स्थान दें। इसके बाद अजगैबीनाथ शिवलिंग के बगल में दो शिवलिंग में से एक महंत केदारनाथ वह एक महंत सिद्धार्थनाथ भारती का हुआ। अजगैबीनाथ में सुबह की पूजा बैद्यनाथ के नाम से होती है।
सरकारी पूजा के बाद पूजा अजगैबीनाथ के नाम से होती है। इतिहास के बारे में अजगैबीनाथ मठ के महंत प्रेमानंद गिरी महाराज ने जानकारी दी। उन्होंने यह भी बताया कि कि महंत सिद्धार्थनाथ और केदारनाथ के बाद अजगैबीनाथ के कोई भी महंत बैद्यनाथधाम नहीं जाते हैं। जिन्होंने भी जाने का प्रयास किया उनकी आंखों की रोशनी चली गई। एक बार वह खुद भी जाने का प्रयास किए उनके आंख की रोशनी कम हुई थी। अजगैबीनाथ की पूजा से मन शांत रहता है और मनोकामनाएं भी पूरी होती है। सावन महीने में लाखों श्रद्धालु यहां जल चढ़ाते हैं।