Даты основания города неизвестны, но когда в 6 веке до нашей эры он был оккупирован персами, это был уже древний город. Он всегда был важным военным и торговым пунктом на северном берегу реки Амударьи и части Великого шелкового пути.
Древнее название города - Тарамата, и он расположен в самом сердце древней Бактрии. Некоторые историки приписывают имя греко-бактрийскому правителю Димитрию, в честь которого был назван город.
С незапамятных времен караваны, путешествующие в Индию, Иран, Персидский залив, Константинополь и Багдад, проходили через Термез, поскольку это был очень удобный паромный пункт на Амударье.
В 1–3 веках Термез был важным городом империи Кушан, и в результате археологических раскопок было обнаружено несколько буддийских монастырей и комплексов, построенных в Термезе и на окраинах.
Кампиртепе, Фаязтепе и другие буддийские памятники являются неотъемлемой частью туров по Узбекистану, которые обязательно нужно увидеть. Это было место, где местные бактрийские, согдийские культурные традиции встретились и смешались с иранскими, индийскими, греческими и китайскими элементами и привели к рождению так называемого искусства и традиции Гандхара.

Арабы в 7 веке были безжалостны к местным буддистам и зороастрийцам. Их монастыри, храмы были разрушены, их священники убиты, а их древние книги и писания сожжены.
В более поздний период Саманидов, Караханидов и Газневидов, Термез развивался как никогда, хотя это был период политической нестабильности. Торговля росла, искусство, культура и архитектура росли. В это время были построены одни из лучших сооружений в Термезе, в том числе мавзолей Хаким ат-Термизи, комплекс Султана Саодата и дворец Киргиз.
Атака монголов в 1220 году была катастрофической. Все население Термеза было убито, а город разрушен.
Термез возродился только во время Тимура в 14 веке, потому что он важен как пограничный город с остановкой паромов и караванов.
После 16 века Термез начал угасать и приходить в упадок. В 1898 году он был оккупирован русскими и превращен в форпост на границе с Афганистаном.

Новый русский Термез был построен в 20 км от руин старого Термеза. В течение советского периода Термез был частью Советского Узбекистана и запретным городом из-за его местоположения. Термез был главными воротами в Афганистан для Советской Армии во время афганской кампании.
Наконец, после провозглашения независимости Термез был открыт для посещений, и теперь у каждого есть шанс увидеть шедевры архитектуры и исторические памятники времен, прошедших во время тура по Узбекистану.
Термез в наше время - современный город с населением 150000 человек, состоящий из узбеков, русских, туркмен и других национальностей.