Am Ausgang des Mittelalters wurden die Juden nach und nach aus den Reichsstädten und aus anderen Herrschaftsgebieten vertrieben, so auch aus dem Herzogtum Württemberg im Jahr 1498.

In der hohenbergischen, seit 1381 österreichischen Stadt Rottenburg existierte im Mittelalter eine jüdische Gemeinde. Vom 13. bis zum Ende des 15. Jahrhunderts lebten hier - mit Unterbrechungen - jüdische Familien. 1286 wird erstmals ein Jude namens Isaak genannt, 1341 eine »Judengasse« erwähnt. Nach der grausamen Judenverfolgung 1348/49 gab es in der Neckarstadt keine Juden mehr. Auch in Rottenburg wurden die Juden beschuldigt, an der sich rasant ausbreitenden Pest schuldig zu sein, indem sie die Brunnen vergifteten. Dieser falsche Vorwurf der Brunnenvergiftung löste europaweit Judenverfolgungen und Pogrome mit hunderttausenden Todesopfern an ihnen aus.

An der Gemarkungsgrenze zwischen Rottenburg und Hirschau wird 1360 und später eine Flur "Judenloch" als der Platz genannt, auf dem die Rottenburger Juden 1349 ermordet wurden.


In den Steuerbüchern der Jahre 1392 bis 1454 sind wiederum Juden aufgeführt. 1405 werden lediglich drei jüdische Steuerzahler genannt, 1436 dagegen eine Höchstzahl von 16 Familien. 1453/54 werden zwölf jüdische Familien genannt. Nach 1476 waren wohl keine Juden mehr in Rottenburg ansässig. Sie waren in die reichsritterschaftlichen Dörfer (z.B. Baisingen, Rexingen und Mühringen) der Umgebung gezogen, wo sie als so genannte Schutzjuden geduldet wurden. 


Das mittelalterliche Wohngebiet der Rottenburger Juden befand sich im östlich-südöstlichen Teil der Altstadt und hat sich vermutlich durch die Verfolgung 1348/49 verlagert. Das ältere Wohngebiet könnte das Gebiet westlich der Stadtlanggasse gewesen sein, da der Platz der mittelalterlichen Synagoge vermutlich zwischen der Stadtlanggasse und der Schulergasse lag. An späteren Wohngebieten kommen das "Rote Meer" östlich der Stadtlanggasse und das heute noch sogenannte "Judengässle" südlich davon in Frage. Von weiteren Einrichtungen ist noch die ungefähre Lage des Friedhofes vor dem Kiebinger Tor bekannt (Gebiet zwischen dem südlichen Teil des östlichen Stadtgrabens und der Sprollstraße).

Die mittelalterliche Synagoge ("Judenschule") befand sich außerhalb der Judensiedlung zwischen Stadtlanggasse und Schulergasse. 1392 mussten die damals vier Juden beziehungsweise jüdischen Familien jährlich fünf Gulden Zins für die Judenschule bezahlen. Auch 1471 ist von einer Zinszahlung für die Judenschule die Rede. 1513, als keine Juden mehr in der Stadt waren, befand sich das Haus, in dem die Judenschule war, im Besitz eines Bürgers namens Spitzhans. Nach dem Spitallagerbuch von 1537 befand sich des alten Spitzhansen Garten hinter dem Eckhaus des Hofschreibers Jörg Brecht, das in der Stadtlanggasse beim Brunnen stand. In der Chronik der Christoph Lutz von Lutzenhart von 1609 steht über die Rottenburger Juden: "Ihr Synagoge oder Schul haben sie gehabt bey der Deutschen Schul, darin dieser Zeit Adam Hofmeister wohnt". 

Erst nach 1860 konnten sich wieder jüdische Personen in Rottenburg ansiedeln, die zur Synagogengemeinde Tübingen gehörten, darunter die Familie Rudolf Horkheimer, die aus Kirchardt (Kreis Heilbronn) nach Rottenburg gekommen war. Horkheimer betrieb zunächst einen Kleiderladen, aus dem heraus ein Hadernschneideunternehmen und schließlich eine Putzwollfabrik entstand. Die höchste Zahl jüdischer Einwohner wurde um 1885 mit 32 Personen erreicht.  
 
Im 19./20. Jahrhundert wurden die Einrichtungen in Tübingen mitbenutzt. Die aus Rottenburg in dieser Zeit Verstorbenen wurden in Wankheim bzw. ihren Herkunftsorten beigesetzt.
 
An ehemaligen, bis nach 1933 bestehenden Handels- und Gewerbebetrieben in jüdischem Besitz sind zu nennen: das Herrenbekleidungsgeschäft Josef/Rosa Berlizheimer (Königstr. 73) und die  Putzwollfabrik Rudolf Horkheimer Söhne (Sprollstraße 27). Die Familie Siegfried Bauer (geb. 1886 in Buttenwiesen, verheiratet mit  Gertrude geb. Horkheimer, geb. 1902 in Rottenburg; Tochter Lilian, geb. 1931 in Stuttgart) lebte im Haus Mechthildstraße 32 (abgebrochen); die Familie Albert Horkheimer hatte ihr Zuhause in der Eberhardstraße 33.  
  
1933 lebten noch elf jüdische Personen in der Stadt. Kaufmann Josef Berlizheimer starb 1933 in Rottenburg, seine Frau wurde 1942 auf dem Weg in die Deportation in das "Altersheim" in Eschenau (Gemeinde Obersulm, Kreis Heilbronn) gebracht, wo sie verstarb. Die Tochter Sofie Berlizheimer kam nach der Deportation nach Riga 1941 ums Leben. Die Familie Bauer konnte über England in die USA emigrieren. Albertine Dierberger (Königstraße 13) wurde 1944 nach Theresienstadt deportiert und kehrte nach Kriegsende als einzige Rottenburger Jüdin zurück. Sie starb 1948 völlig mittellos im Altersheim.
  
Von den in Rottenburg geborenen und/oder längere Zeit am Ort wohnhaften jüdischen Personen sind in der NS-Zeit umgekommen (Angaben nach den Listen von Yad Vashem, Jerusalem und den Angaben des "Gedenkbuches - Opfer der Verfolgung der Juden unter der nationalsozialistischen Gewaltherrschaft in Deutschland 1933-1945"): Sofie Berlizheimer (*1898), Albert Horkheimer (*1873), Ferdinand Horkheimer (*1866), Jenny Horkheimer geb. Levi (*1870), Rosa Horkheimer geb. Levi (*1879).