Карлово е разположено на 386 м надморска височина в северната част на Карловското поле, което се образува на югозапад от Стара планина, на север от Същинска Средна гора и на североизток от Сърнена гора. Планинската местност Козница (до град Клисура) отделя на запад Стремската долина от съседните задбалкански котловини, а на изток тя е отделена от Кръстец (Стражата). Това географско разположение има важна роля за климата на града и разпростряната около него Розова долина.

Карлово се намира на 145 км източно от столицата София и на 64 км северно от областния и втори по големина град в страната – Пловдив.