Die frühe Besiedlung des Taubertals ist durch Funde in verschiedenen Orten nachgewiesen. Im Kitzlesweg entdeckte man 1889 beim Hausbau des Bildhauers Feile eine uralte Feuerstelle aus Stücken rot gebrannten Hüttenlehms nebst Steinbeilen, Handmahlsteinen und Knochenresten in etwa 1,5 m Tiefe. Diese nicht erhalten gebliebenen Funde dürften der jüngeren Steinzeit um 2000 v. Chr. angehört haben.

1961 stieß man bei Kanalisationsarbeiten in der Nähe der neuen Kirche auf ein Frauengrab aus der Merowingerzeit, das aber aus Unkenntnis zerstört wurde. Von etwa 100 Teilstücken einer Halskette konnten nur wenige Teile wieder beschafft werden.

Verloren gingen Gewandfibeln mit silbernen Ornamenten. Ein merowingischer Friedhof war im Glockenturmgebiet.

Auf der Gemarkung Markelsheim sind weitere Fundstellen dokumentiert. So fand man bei der Erschließung des Baugebietes "Kitzle" vorgeschichtliche Siedlungsreste ebenso im Gewann "Bildäcker". Im "Häslesweg" stellte man mittelalterliche Siedlungsreste fest.

Nicht viel nachweisbare Spuren haben die im dritte nachchristlichen Jahrhundert durchziehenden Alemannen und die nachrückenden Burgunder hinterlassen.

Die Obere Au in Bad Mergentheim hat in einem fränkischen Reihengräberfeld des 6. Jahrhunderts einige alemannische Reste bewahrt.

Besser lassen einige ursprünglich allemannische Ortsnamen mit der typischen Sippenendung auf "ingen" entlang der Tauber auf alemannische Ansiedlungen des 5. Jahrhunderts schließen: Impfingen, Dittingen (später Dittigheim), Edelfingen (mit späteren frankenzeitlichen Reihengräbern des 7. Jahrhunderts), Röttingen, Creglingen.

Die Frankenbesetzung des Taubertals vom 6. Jahrhundert ab hat dann eine Reihe fränkischer Grabbelege vom 6. bis 8. Jahrhundert hinterlassen.

Die fränkische Staatsorganisation, die einige Zeit nach dem Sieg des Frankenkönigs Chlodwig über die Alemannen (Zülpich 496) in Königshofen einen Hauptstützpunkt angelegt hat, hat nach Ausweis der Ortsnamen und Bodenfunde teils die alten alemannischen Orte belegt, teils neue Frankenorte dazwischen angelegt.

Diese neuen Orte tragen Namen mit der fränkischen Lieblings-Endung "heim", welche an die Personennamen der neuen, auf nunmehrigen fränkischen Königsland angesetzten fränkischen Königsvasallen und Grundherren angehängt worden sind: nach Tauberbischofsheim tauberaufwärts Dittigheim, Mergentheim, Igersheim, Markelsheim, Elpersheim, Weikersheim, Schäftersheim, Tauberrettersheim. Württemberg zählt neben 311 Orten auf "ingen" etwa 100mit der Endung "heim". Bezüglich Markelsheim wird angenommen, dass eine fränkische Hundertschaft unter einem Führer Markulf sich dort niederließ.

Die Franken waren unter den heidnischen Schwaben die Wegbereiter des Christentums. Da ihre Kirchen anfänglich für die ganze Hundertschaft bestimmt waren, standen sie mit Vorliebe im Freien zwischen den Ortschaften, meist auf halber Bergeshöhe, wenn möglich an Quellen, als Taufkirchen.

So sieht man in Burgerroth, Creglingen und Igersheim die alten Kirchen außerhalb und oberhalb des Ortes, frühe Martinskirchen der fränkischen Staatsorganisation und frühe Michaelskirchen des Adels.

Zur Centschaft Igersheim gehörte noch das seit dem 30jährigen Krieg abgängige Goldbach und das von den Franken offenbar neu gegründete Neuseß.

Die gemeinsame Kirche, eine Martinskirche, stand zwischen den drei Ortschaften auf dem berg. In Igersheim hat der adelige fränkische Centvorsteher eine Michaelskirche gegründet.

Zu der Centschaft, die den Namen Markolfesheim annahm, gehörten noch die drei Höfe Ober-, Mittel- und Unterapfelbach.

Verwaltungsgemäß gehörte die ganze Gegend um Markelsheim zum Taubergau. Kirchlich wurde sie jedoch dem Hochstift Würzburg angegliedert, dessen Bischöfe für sich immer mehr weltliche Macht zu gewinnen suchten.

Schon 807 trat ein Graf Audulf mit Einwilligung Karls des Großen dem Bischof von Würzburg verschiedene Güter im Gollachgau und im Taubergau ab, darunter den Weiler Odinga (Üttingshof bei Althausen).

1054, als Markelsheim zum ersten Mal in einer Urkunde des Stifts Neumünster von Würzburg genannt wird, war die Verfassung der Gaue wohl schon verschwunden oder im Verschwinden begriffen.

Denn schon 1103 wird an Stelle der Gaue die Provinz Osterfranken genannt, in der die Hohenstaufen die Herzogswürde besaßen. Durch Beerbung der Grafen von Rothenburg waren sie zu ansehnlichem Besitz in der Gegend gekommen.

Sie sahen sich aber in der Ausdehnung ihrer Macht durch die Bischöfe von Würzburg gehindert, welche um dieselbe Zeit von Kaiser Heinrich II. durch umfangreiche Landgüter und rechte in Franken entschädigt worden waren, weil er 1007 den östlichen Teil der Diözese zur Gründung des Erzbistums Bamberg abgetrennt hatte.

Die obengenannte erste Urkunde vom Dorfe Markelsheim von 1054 berichtet, dass Kaiser Heinrich III.dein Lehen Marcholfesheim, Asbach, Riethbach, Huchilheim, Zazendorf, Adalringen, Igilstruoth an seinen Getreuen Emehard vergab, nachdem der vorige Inhaber Hermanns, ohne Zweifel ein Luxenburger, in die Reichsacht erklärt worden war, weil er an einer Verschwörung gegen den Kaiser teilgenommen hatte.

Ein gleichnamiger Emehard (jüngerer Verwandter) der Linie Rothenburg-Comburg wurde später (1088 bis 1104) Fürstbischof von Würzburg.