Леопольд получил хорошее начальное образование, окончил музыкальное училище в Харькове, а затем Петроградскую консерваторию, специализируясь на теории композиции и дирижёрского искусства. Во время учёбы работал тапёром-дирижёром, осуществляя музыкальное сопровождение немого кино.
В 1926 году Теплицкого отправили в США по заданию Наркомпроса. Дирижёр должен был изучить американскую музыку, а в особенности — джаз. В Нью-Йорке он стажировался в оркестре Пола Уайтмена — невероятно популярного джазового музыканта. Именно его оркестр в 1924 году впервые исполнил «Рапсодию в стиле блюз» Гершвина.
В 1927 году очарованный джазом Теплицкий возвращается в Ленинград и создает «Первый концертный джаз-банд». В оркестр он набирает профессиональных музыкантов. 28 апреля 1927 года его оркестр впервые выступает в Академической капелле. Джаз-банд получает огромный успех в СССР и отправляется на гастроли по стране.
