市南區(qū)建置始自德國侵占青島時期,所轄區(qū)域卻有較長的歷史,早就匯入了青島歷史的主流。從明初以來,一直以優(yōu)越的區(qū)域優(yōu)勢在政治、軍事、商貿、旅游、居住諸領域居統(tǒng)領地位。元末明初,倭寇時常侵擾中國沿海地區(qū),山東的登、萊二州屢遭其害。從明洪武二年(1369)至洪武七年(1374),倭寇先后6次襲掠膠州灣,燒殺搶掠,曾造成一時“舟楫不通”。針對這種外患,明朝初年在沿海地區(qū)設立衛(wèi)、所,以加強沿海防御。洪武二十一年(1388)在即墨縣東海邊筑城設防建鰲山衛(wèi),下轄浮山所(全稱:浮山備御千戶所)、雄崖所!八钡囊(guī)模比“縣”大,州府級,由“千戶”(正五品)掌管。
今市南區(qū)轄區(qū)中心的浮山所從洪武二十一年(1388)立所到清朝雍正十三年(1735)裁所,這360年之間,作為海防軍事重鎮(zhèn),一直在今青島市內四區(qū)(市南、市北、四方、李滄)及城陽區(qū)、嶗山區(qū)西部這個大范圍內設寨設墩設堡駐兵布防。
有了浮山所等衛(wèi)、所作為軍事安全屏障,部分內地(據傳多是云南、貴州、山西)人才放心地遷移來到膠州灣東畔定居。從明朝永樂以后,在萊州府即墨縣以南、嶗山以西一帶聚集了大批定居移民,今市南區(qū)范圍就陸續(xù)建了上青島村、下青島村、會前、小泥洼、小湛山、大湛山、田家村、大堯、逍遙、張家莊(后改名為亢家莊)、丁家莊、辛家莊。偏樊海陬出現了生機。人們在農耕的同時,也把創(chuàng)業(yè)的眼光投向大海。明成化三年(1467),在青島口北岸立建天妃宮(后改稱天后宮),每年農歷正月在這里祭拜,以求海上打漁商旅平安。
明朝嘉靖年間,王士性《廣志繹》一書中有“青島”一詞,作為一個小島的名字首次出現于文獻中。
明朝萬歷六年(1578)即墨知縣許鋌上書朝廷,提出開放海上運輸,后獲準在縣境內開放了青島口(即今市南區(qū)域內,天后宮前,棧橋東),青島口海運貿易日趨活躍,通商閩、浙、蘇、淮。