Najstarsze ślady osad ludzkich na terenie dzisiejszego Karczewa pochodzą sprzed 11 tysięcy lat i dotyczą obozowisk paleolitycznych łowców reniferów. Osadnictwo na tym terenie trwało do II-III wieku n.e., kiedy to ziemie polskie zostały wyludnione. Dopiero kilkaset lat później na tereny te dotarli Słowianie.

W nieco mniej dawnych czasach historię Karczewa można śledzić w kronikach i zapisach już od XIV wieku. Wówczas Wisła zmieniła swój bieg i zagroziła istniejącej tu osadzie - Dudzie. Władająca nią rodzina Duckich zdecydowała się założyć nowe osiedle, i w tym celu wykarczować znajdujący się na nieco wyższym terenie las. Właśnie od "karczowania" pochodzi używana do dziś nazwa miejscowości. 

W zapisach z 1408 r. wymieniany jest Wit z Dudy i Otwocka, który miał częste sprawy w  sądach. W 1421 r. otrzymał on stanowisko stolnika czerskiego a 24 II 1428 r. dokonał podziału swoich dóbr (Duda, Otwock, Karczew i inne posiadłości) między synów. Dla siebie i potomków z trzeciej żony zatrzymał osadę położoną na wykarczowanym lesie - Karczew - i część Otwocka. Odtąd synowie Wita władający na Karczewie, zaczęli nazywać się Karczewskimi. Jednak Otwoccy, Duccy, Karczewscy a także jeszcze inni w  okolicy należeli do wspólnego rodu Jasieńczyk, mającego w herbie złoty klucz, była to jedna rodzina panów tych ziem.

Sto lat później Karczewem władał już Jan Karczewski, który słynął z handlu zbożem, docierającym nawet do Europy Zachodniej. Był to także okres, gdy Mazowszem zarządzała królowa Bona - po śmierci króla była to jej wdowia oprawa - przynosząc regionowi rzwój i świetność.  21 stycznia 1548, na Sejmie w  Piotrkowie, bracia Jan i Franciszek Karczewscy otrzymali prawa miejskie dla Karczewa na zasadzie prawa chełmińskiego, które wyłączało mieszczan karczewskich spod sądownictwa kasztelanów, starostów i  wojewodów i odtąd stawali przed swoim wójtem. Jednocześnie przyznano Karczewowi dwa jarmarki rocznie - na św. Wita (15 czerwca) i św. Bartłomieja (24 sierpnia) oraz jeden targ tygodniowo w każdą sobotę.

Rozwój Karczewa zahamował wielki pożar w 1577 r., który spowodował takie zniszczenie, że mieszkańcy miasta zostali zwolnieni na kilka lat od podatków. Akt ten przyczynił się do szybszej odbudowy domostw a także do rozwoju rzemiosła i handlu. Jak zanotowały kroniki, Karczew wówczas, położony na skraju puszczy, która ciągnęła się od Osiecka wzdłuż brzegu Wisły aż do Narwi, posiadał jeszcze niewielką liczbę mieszkańców. Bielawscy i Karczewscy, wspólni właściciele Karczewa często się procesowali, sprawy majątkowe starali się uporządkować sądownie.

W końcówce XVII wieku właścicielami Karczewa stali się Bielińscy, którzy pozostali nimi do 1809 roku. Podczas gdy dobra Bielińskich chyliły się ku upadkowi, w latach 1795-1809 Karczew, leżący na granicy zaboru austriackiego i rosyjskiego szybko się rozrastał. Rząd austriacki ustanowił tu komorę celną, dzięki której miasto zaczęło szybko się rozwijać. Kwitł handel, rozwijało się rzemiosło a miasto się bogaciło.Nadszedł jednak wiek XIX - czas walki o wolność w Powstaniu Listopadowym i Styczniowym.

W 1869 r. za aktywne popieranie powstańców, Karczewowi odebrano prawa miejskie, urząd gminny został przeniesiony do Otwocka Wielkiego. W tym czasie w Karczewie istnieją warsztaty pasów wełnianych, przeważnie tzw. tałesów żydowskich. Jeden warsztat liczył trzech a drugi jednego robotnika. Jednak rozwój Karczewa został zahamowany przez uruchomienie kolei nadwiślańskiej (1877), która przyczyniła się do szybkiego wzrostu osiedli powstających przy kolejowych przystankach jak Otwock, Józefów, Celestynów, niegdyś powiązanych administracyjnie i kościelne właśnie z Karczewem. 

Prawa miejskie Karczew odzyskał dopiero w 1959 roku, nie odzyskał jednak już dawnej pozycji - większość urzędów znajduje się w powiatowym Otwocku.