A település már az őskorban is lakott volt. A népvándorlás korából fennmaradt tárgyi emlék a rovásírásos tűtartó. III. Béla király krónikása, Anonymus Szarvashalomként említi az Árpád-kori falut. A település Hármas-Körös menti átkelőhely volt, ezért a védelmére palánkvárat építettek, amely a török kor végén, 1686-ban elpusztult. Ezután a település rövid időre lakatlanná vált. 1722-től a környék új földesura, báró Harruckern János főként szlovák jobbágycsaládokat telepített be. Így a település újjászületett, és hamarosan mezővárosi rangot kapott. Tessedik Sámuel, evangélikus lelkész sokat tett a város fejlődéséért. Ő hozta létre Európa első "szorgalmatossági", azaz gazdasági iskoláját Szarvason. Korszerű földművelési technikákkal ismertette meg a tanulni vágyókat. Építkezéseivel átformálta a város képét, az utcákat sakktábla-alaprajzúra tervezte meg. Az 1800-as évek is sok újat hoztak a település életében a gróf Bolza családnak köszönhetően: szárazmalom épült, létrejött az Anna-liget, a Pepi-kert (ma Szarvasi Arborétum). A II. világháború után kutatóintézetek, és a Tessedik Sámuel által létrehozott szorgalmatossági iskola alapjain felsőoktatási intézmények jöttek létre (a Tessedik Sámuel Főiskola előd- és utódintézményei). A várost ma is Békés megye szellemi központjának tartják. Sok ismert ember származott Szarvasról, akik között van költő, nyelvész, festő, kutató, operaénekes.
