常熟古稱琴川、海虞、南沙等，簡稱虞、虞城。

商末為勾吳北境。西周時期，常熟地方屬吳國。春秋戰國時，先后屬越、楚、秦。秦代常熟屬會稽郡吳縣。

西漢時期，常熟境內設有虞鄉。東漢時屬吳郡吳縣，境內有虞鄉、南沙鄉，在南沙鄉設司鹽都尉，是地方設吏治的開始。三國時期，虞鄉設有虞農都尉。

西晉太康四年（283年），以虞鄉設置海虞縣，縣治設海虞城（今虞山街道），常熟境域開始有縣治。東晉咸康七年（341年），在南沙鄉建立南沙縣，隸屬晉陵郡。

南朝齊永泰元年（498年），海虞縣北境設置海陽縣，隸于晉陵郡。南朝梁大同六年（540年），南沙之地置常熟縣，縣治設南沙城（今海虞鎮福山），隸于信義郡，常熟縣名由此始。

隋朝建立后變州、郡、縣三級制為州、縣兩級，廢信義郡，以海陽、前京、信義、興國、海虞、南沙六縣并入常熟縣，縣治設南沙城，隸屬吳州（今蘇州）。開皇九年（589年），以常熟縣置常州，設常州理。不久，常州理移至晉陵縣，常熟復為縣，隸于蘇州。

唐代武德七年（624年），常熟縣治由南沙城移至海虞城。

元代元貞元年（1295年），常熟縣升為常熟州（中州），屬平江路。

明代洪武二年（1369年）常熟州復為縣，隸蘇州府。

清代雍正四年（1726年），常熟縣析分為常熟、昭文兩縣，同城分治。

1911年辛亥革命后，常熟、昭文兩縣合并為常熟縣。

1949年4月27日，常熟解放。5月，以常熟縣城區及近郊設常熟市，市、縣合署辦公。1958年4月，撤銷常熟市，常熟市境歸常熟縣管轄。

1983年1月18日，常熟縣建置撤銷，常熟全境設立常熟市（縣級），歸蘇州市管理。2024年，常熟市人民政府所在地為虞山街道金沙江路8號。