Ļoti reti ligzdo zivju dīķos, ezeros un applūdušās aizaugošās ūdenstilpnēs, biežāk sastopams valsts dienvidaustrumu daļā. Daugavpils pilsētas mitrājos ligzdo ap 10 pāriem mazo dumpju. No ziemošanas vietām Āfrikā un Āzijas dienvidos atgriežas maija vidū. Tēviņa dziesma atgādina suņa rējienus, ko pārsvarā var dzirdēt nakts laikā. Mazais dumpis barojas ar dažādiem bezmugurkaulniekiem, zivīm un abiniekiem. Šīs sugas putniem ir ļoti slēpts dzīvesveids. Mazais dumpis biežāk ir novērojams lidojumā zemu virs ūdens virsmas.