Народився в Києві в родині дрібного ремісника. Початкову освіту здобув у парафіяльному училищі. Закінчивши із золотою медаллю 2-гу київську гімназію, у 1876 році вступив на історико-філологічний факультет Київського університету. Після участі в студентських заворушеннях змушений був перейти до Харківського університету, проте, вже в наступному 1877 році повернувся до Київського університету на 2-й курс.

У Київському університеті Дмитро Іванович Багалій займався під керівництвом таких видатних істориків як Володимир Боніфатійович Антонович і Володимир Степанович Іконников. У 1880 році закінчив Київський університет і був залишений як стипендіат для підготовки до професорського звання. У 1882 році захистив магістерську дисертацію, а в березні 1883 року Рада Харківського університету обрала його штатним доцентом на кафедрі російської історії.

У 1887 році після захисту докторської дисертації був обраний екстраординарним, у 1889 році — ординарним професором. Крім загального курсу російської історії, читав ряд спецкурсів: історіографію, історію Південної Русі, історичну географію тощо. З жовтня 1906 до листопада 1911 року був ректором Харківського університету. У 1883 році вступив до Харківського історико-філологічного товариства, брав активну участь у створенні етнографічного та художнього музеїв при ХІФО, Харківського історичного архіву та близько 30 років (з 1883 року) виконував обов’язки завідувача архіву. Входив до числа співробітників Харківського губернського статистичного комітету. З 1893 до 1905 року був головою правління Харківської громадської бібліотеки, входив до складу правління Харківського товариства розповсюдження в народі грамотності, був одним з організаторів Вищих жіночих медичних курсів у Харкові.

Проводив археологічні розкопки і був організатором та учасником декількох археологічних з’їздів. Був дійсним членом Імператорського Московського археологічного товариства, низки губернських архівних комісій. Брав активну участь у громадському житті: з 1905 року був членом кадетської партії, у 1906 році Дмитра Івановича було обрано членом Державної ради від російських університетів та академії наук. Був міським головою м. Харкова (1914–1918 роки).

Активну наукову, педагогічну й громадську діяльність Дмитро Іванович Багалій вів і після Жовтневої революції. Очолив культурно-просвітницьке товариство «Просвіта» в Харкові, читав лекції з історії Слобідської і Лівобережної України в університеті та на Вищих жіночих курсах, редагував науково-популярну серію «Культурно-історична бібліотека». Брав участь у роботі зі створення Української Академії наук. Після від’їзду з Києва Володимира Івановича Вернадського деякий час виконував обов’язки президента Академії. Дмитра Івановича Багалія було обрано першим віцепрезидентом УАН і першим головою її історико-філологічного відділення.

З 1919 року був академіком УАН. Входив до складу комісії по створенню всенародної бібліотеки України при УАН, виконував обов’язки її голови. У період денікінської окупації повернувся до Харкова. З відновленням радянської влади активно виступав як організатор науки, вищої школи, архівної справи. Входив до колегії консультантів при Наркомпросі УРСР з розробки програми реформи вищої школи. З перетворенням Харківського університету в Академію теоретичних знань Дмитро Іванович Багалій посів у ній посаду декана. У 1921 році в Харкові він організував науково-дослідну кафедру історії України (у 1930 році її реорганізовано в багатогалузевий науково-дослідний інститут імені Дмитра Івановича Багалія). З моменту заснування кафедри й до кінця життя був її керівником.

З 1921 до 1927 року був професором історії України в Харківському інституті народної освіти. У 1926–1932 роках — директором науково-дослідного інституту з вивчення життя і творчості Тараса Григоровича Шевченка. З січня 1920 року Багалій очолив архівну секцію Харківського, а потім і Всеукраїнського комітету з охорони пам’яток мистецтва та старовини, входив до складу Особливої Всеукраїнської архівної комісії, був заступником голови Головного архівного управління УРСР. З моменту створення в 1923 році й до жовтня 1924 року був фактичним керівником Центрального архівного управління УРСР. У 1923 році на I Всеукраїнському з’їзді науковців обраний до складу Центральної ради СНР СРСР, входив до складу редколегії журналу «Науковий працівник». Як голова Центрального бюро СНР УРСР брав участь у роботі Всеукраїнських та окружних з’їздів Рад.

Брав активну участь у діяльності першої радянської профспілки вчених України. На I Всеукраїнському з’їзді наукових працівників у 1925 році був обраний головою Центрального бюро Секції наукових працівників УРСР. На цій посаді залишався аж до 1932 року.

Дмитро Іванович Багалій — один із найвидатніших істориків країни, творець і керівник визнаної школи дослідників, автор понад 400 публікацій з історії України.