Во времена Древнего Рима на месте современного Земуна находилось поселение [[{{{2}}}|fr]] (Taurunum)(Taurunum), исчезнувшее в эпоху Великого переселения народов. Первые письменные упоминания о Земуне, название которого происходит от славянского слова земля, датируются XII веком. В 1127 году Белград и Браничево были завоёваны венгерским королём Иштваном II, предпринявшим поход на Византию. Во время возвращения он разрушил Белград, камни которого были использованы при возведении стен Земуна.
В Средние века Земун был отдельным городом на южной границе венгерского государства. Однако расположенный на противоположном берегу Белград всегда превосходил его по значению. Подобное распределение ролей сохранилось и в составе Османской империи с 1541 до 1718 года. В последующей эпохе Земун был пограничным и таможенным городом Австро-Венгрии, находясь на границе с Османской империей, позже с Сербией. После распада Австро-Венгрии Земун непродолжительное время принадлежал к жупании Срем королевства Королевства Хорватия и Славония, прежде чем в 1918 вошел в состав Королевства Югославия, называвшегося до 1929 годаКоролевством сербов, хорватов и словенцев.
Международную известность приобрёл названный в честь этого района земунский преступный клан, который в марте 2003 года организовал убийство сербского премьера Зорана Джинджича. В том же году от Земуна был отделён район Сурчин.
Спорт
Земун является родным городом футбольного клуба «Земун», играющего во второй сербской лиге.