A középkori Békéscsaba a törökdúlás idején teljesen elpusztult. A törökök kiűzése után az elnéptelenedett vidék Harrukern János György birtoka lett. Az új földesúr Észak-Magyarországon telepeseket toboroztatott, nekik vallásszabadságot és jobb megélhetést ígért.

1718-ban a Felvidékről, főként Nógrád, Hont és Gömör megyéből jobbára szlovák ajkú evangélikusok érkeztek. A szabad ég alatt tartották meg első istentiszteletüket, de csakhamar templomot is építettek maguknak. Rőzséből font, sárral tapasztott, paticsfalú, meszelt épület volt az Isten háza, mert úgy gondolták, hogy a nagyon egyszerű templom építését nem akadályozza meg a hatóság.

1745-ben id. Tessedik Sámuel lelkész buzgó fáradozása nyomán épült fel sok nehézség közepette, fél esztendő alatta csabaiak első szilárd anyagú (tégla) temploma. A szájhagyomány szerint Tessedik Sámuel gyalog ment Bécsbe, hogy Mária Teréziától engedélyt szerezzen a templom építéséhez. Ez volt az első téglából épült evangélikus templom a török kiűzése után a Tiszántúlon. Id. Tessedik Sámuel (1710-1749) a tudós Bél Mátyás tanítvány a volt Pozsonyban, majd a jénai egyetemen tanult. Békéscsabán csupán 5 évig működött, mert 39 éves korában meghalt, és az általa épített templomban temették el. Rövid szolgálata hosszú időre meghatározta a csabai gyülekezet életét: vezetése alatt formálódott igazán közösséggé a sokfelől toborzott nép. Szigorú fegyelmet tartott, s fáradhatatlanul pásztorolta és tanította híveit. Neki is köszönhető, hogy egyedül az evangélikus helyeken nem volt boszorkánypör Békés megye területén a 18. században. – Az ő fia volt Szarvas kiváló, tudós lelkésze, az ottani Ótemplom építője és a hazai első mezőgazdasági iskola megalapítója.

Tessedik halála után néhány évvel többszáz fős csapat indult el a Nyírségbe, lelkészük, Vandlik Márton vezetésével. A hozzájuk csatlakozott mezőberényi és szarvasi hívekkel ők alapították meg 1753-ban a mai Nyíregyházát, az ottani evangélikus gyülekezetet.

A bőséges gyermekáldás és az újabb bevándorlások folytán gyorsan gyarapodott a békéscsabai gyülekezet, szükségessé vált a templom bővítse, ami 1773-ban történt meg két oldalszárny építésével. Ma Kistemplom a neve. Ez a név megtévesztő, mert több mint félezer ülőhely van benne.

1783-ban teljesült a gyülekezet régi vágya: II. József Türelmi Rendelete alapján felépíthették a templom tornyát, az első evangélikus tornyot a törökdúlás után az Alföldön. Tízezer hívővel már ekkor az ország legnagyobb evangélikus gyülekezete volt a békéscsabai.

A 18. század végén a kibővített templom is kicsinek bizonyult. Gondoskodni kellett új templom építéséről. Három javaslat született: az első szerint a község két végén egy-egy új templom épüljön, s maradjon a régi is, a másik szerint a régit lebontva, annak helyén egy Nagytemplom épülne. Végül, harmadikként Milecz Mihály lelkész javaslatát fogadták el, miszerint a régivel szemben egy Nagytemplomot építsenek. E javaslat elfogadása lehetővé tette az építészetileg értékes Kistemplom fennmaradását, s az új építése idején a gyülekezet nem nélkülözte a templomot. A Nagytemplom megépítése után is mind a mai napig istentiszteletek helyéül is szolgál a kisebbik.