唐玄宗開元（713～741）年間，始于廣州設置市舶使，多由宦官充任。遇有番舶入口，市舶使“籍其名物，納舶腳，禁珍異”。所謂“籍其名物”，就是對船載貨物進行登記，以供上報；“納舶腳”即征收進口稅；“禁珍異”就是把珍異之物列為禁榷，由國家優先采購。借此加強對海外貿易的監督和管理，以收市舶之利。宋朝建立后，于開寶四年（971）在廣州設立市舶司，掌管海上貿易。除廣州外，宋代還在密州、秀州、溫州、江陰軍、明州、杭州、澉浦、泉州等地設置市舶機構，它們分屬于密州市舶司、兩浙路市舶司、福建路市舶司和廣南路市舶司，其中尤以泉州、廣州、兩浙路的所謂“三路市舶司”最負盛名。其長官為提舉市舶或提舉市舶司，一開始由所在州郡長官兼領，元豐以后始令轉運使兼領，后來專置提舉，不復有兼領之事。宋代市舶司的主要職責是登記和管理船舶，檢查其是否在規定口岸進出，是否夾帶違禁人員、物品，然后頒發公憑等出海憑證，并進行抽稅。宋代對進出口貨物實行抽分制，即將貨物分成粗細兩色，官府按一定比例抽成，這是一種實物形式的市舶稅；同時對某些進口商貨實行博買，即按一定比例以官價予以強制性收購，這是一種變相的進口稅。經過抽解、博買后的剩余貨物才能運銷他處。市舶司則把抽解、博買的貨物及時轉運到京師。除此之外，市舶司還負責招商，甚至到海外招徠蕃舶來華貿易，一些成就卓著的市舶官使因此加官晉爵。蕃商來華，市舶司要負責接待，以示朝廷招徠遠人之意；商舶出海，市舶司要舉行祈風儀式，祈求海上平安。元滅南宋后，立即在泉州、慶元、上海、澉浦四處設立市舶司，后又陸續添設廣州、溫州、杭州三處市舶司。經過裁并，到大德二年（1298），元朝市舶機構只剩慶元、泉州、廣州三處。三處市舶司掌管發放船舶出海公檢、公憑，檢查出海船舶及管理所轄口岸船只等事。

為加強對海外貿易的管理，元朝在至元三十年（1293）頒行《至元市舶則法》，對舶貨的征稅與禁限，舶商貿易憑證的申請、審批、核發、管理等做出明確規定。延祐元年（1314），又在《至元市舶則法》基礎上修訂頒布新的《延祐市舶則法》，取消權貴的減免稅待遇，增加禁限物品種類，提高征稅標準，從而將中國古代的海關管理推進到一個較高水平。明朝建立后，先是在太倉黃渡設置市舶提舉司，后又設立泉州、明州、廣州三個市舶司。洪武三年（1370），罷黃渡市舶司；七年，廢泉州、明州、廣州三處市舶司。永樂以后，復置廣東等三處市舶司，以宦官為市舶提舉，而泉州市舶司后來移至福州。此外，永樂中期還設交趾云屯市舶提舉司和杭州市舶司。與元代不同，明代市舶司的主要職責是掌管海外朝貢、市易之事，管理私人海外貿易的職能大大萎縮。對于各國來華之朝貢使團，市舶司要辨其來使、表文、勘合之真偽，限制他們的自由活動，禁止與民人私相貿易。清初厲行海禁之前，也按慣例在廣東設置市舶司，并對貿易商船丈抽收稅。廣東市舶司先由巡視海道兼管，后設市舶提舉，專管市舶事務。禁海令后，因為澳門商舶貿易的停止和貢舶貿易十分稀少，無所事事的廣東市舶提舉司于康熙五年（1666）被裁并。康熙二十四年設立江、浙、閩、粵四海關后，延續近千年的市舶司制度終于退出了歷史舞臺。