Mardin adını ,tarihte ilk kez 4. Yüzyılında Roma coğrafyası Marcellinus Maride ve lorne kaleleri şeklinde zikreder. İlk çağ döneminde dair pek bir şey bilmediğimiz şehre ,640 yılında Araplar egemen olur, sonrasında Hamdaniler ve Mervaniler
Mardin’in adının nerden geldiği ile ilgili farkı söylenceler var. Mardin ermeni söylencelere göre, MS 351’de Nusaybin yıkılınca Mardin’e sığınan Ermenilerin karşılaştıkları dirence karşı gösterdikleri cesarete atfen savaşçı yada şehit anlamına gelen Mardin kelimesinden Süryani söylencelerine göre ise çevrede çok sayıda kale bulunmaması bağlı olarak Süryanice kaleler anlamına gelen merdin ‘den türemiştir.
Bir başka söylence Bizans imparatorluğu Heraklius ‘un bir komutanın din adındaki İranlı bir keşişi öldürdükten sonra tam karşıya kale yaptırarak buraya din öldü anlamına gelen matedin adını verdiği ve şehrin adını bundan geldiğini iddia eder. Diğer bir söylenceye göre ise ; MÖ 4 yüzyılında pers kralının Mardin adındaki oğlu hastalanır, tedavisinde hava değişikliğinin faydalı olacağı söylenir ve bir süre temiz havasıyla meşhur şu anki Mardin kalesinde yaşaması uygun görülür çocuk iyileşir ve orada yaşamaya devam eder. Buraya onun adına Mardin denir.
Araplardan sonra 12. Yüzyılın başında Kürt ,Ermeni ,Yakubi Nasturi, Şemsi ve Yezidilerin yaşadığı Mezopotamya yeni bir kültüre iran üzerinden gelen Türkmenlerle tanışır. Türkmen ailelerin büyüklerinden olan Artuklular yaklaşık üç asır boyunca Mardin’e egemen olur. Başkent’lik yaptığı bu dönemde Mardin oldukça gelişir, kale dışında taşan mahalleleri, sarayları, camileri medreseleri, çarşıları, hanları ile gerçek bir şehir kimliğine bürünür. Musul- Halep arasında yapılan ticaretle en parlak dönemini yaşar. Bu dönemde Moğol imparatorluğu Timur şehri iki kere kuşatır ama başarılı olmaz.
15 yüzyılında başka bir Türkmen ailesi Akkoyunlular ve sonrasında Karakoyunlular ve sonrasında Mardini yönetir. Bir yıl boyunca süren kuşatmadan sonra 1517’de Diyarbakır beylerbeyi bıyıklı Mehmet Paşa Mardin’i Osmanlı topraklarına katar Birinci dünya savaşında sırasışehir herhangi bir yabancı işgaline uğramaz. 1920’de birkaç Fransız subayı şehre gelir umdukları desteği bulmayınca geri dönerler. Mardin savaştan sonra Türkiye Cumhuriyeti ‘nin sınır şehri olur. Mardin ; dicle ve fırat’ın suladığı topraklarda, Yunanlıların nehirler arasında toprak mesopotamia arap coğrafyacıların -ada- el-cezire dedikleri ilkçağlardan beri insanlık tarihi için önemli yerleşim alanı olmuş yer alır.
Verimli topraklar tarih boyunca farklı kültürlerin ve inançların, dinlerin uğrak yeri olur. Arkaik pagan inançlara güneşe tapan şemsiler tavusu azamı kutsallaştıran yezidiler ve erken hristiyanlık dönemine tanıklık eder.
Hristiyanlığı ilk kabul eden halklar Süryaniler ermeniler bu bölgede münzevi hayatı yaşar, manastırlar bu bölgede yayılır. İlk Türk islam yapıları burada inşa edilir. Dervişler buradaki zaviyelere konaklar. Şehir yüksek avlu duvarlarının sınırlarının çizdiği dar sokaklardan abbaralardan kapılardan bir anda karşınıza çıkan çeşmelerden oluşur. Kaybolarak dolaşırsınız şehir sizi içine alır nerde olduğunuzu anlamak için dışına çıkmanız gerekir. Yüksek duvarların arkasında avlular,eyvanlar odalar vardır ve avludaki sesler sokak sesine karışır; Arapça Türkçe Kürtçe Süryanice ….
Şehirde baskın olarak iki büyük tek tanrılı dinin varlığı hissedilir. Erken hristiyanlık dönemine ait kilise ve manastırlar ile Türk İslam Devleti artukluların medrese ve camileri eşit oranlarda şehre dağılır. Tarihi boyunca önemli ticaret yolarının durağı özelikle tarihi ipek yolu olan şehir zengin çarşı dokusuyla bunu hissetirir.
Şehir 20. Yüzyılınbaşından itibaren ticaret yollarının değişmesiyle önemini yitirmeye başlar. Buda şehirde durgunluğa göçlere ve kültürel yitime neden olur.ancak tüm bu yıpranmışlığına rağmen Mardin kendini hala hayranlıkla seyrettirir.