Издревле Симоса была частью государства Фуса (Шаблон:Lang-ja), которое в VII веке было разделено яматоскими монархами на две административные единицы — Кадзуса (Шаблон:Lang-ja, «верхняя Фуса») и Симоса (Шаблон:Lang-ja, «нижняя Фуса»). Большинство населения провинции составляли племена эмиси, которые постепенно были ассимилированы яматосцами.
После ряда территориальных изменений границы провинции Симоса окончательно закрепились в VIII веке. Её административный центр находился в современном городе Итикава.
Опасность от соседних племён эмиси повлияла на формирование самурайского сословия в провинции Симоса. К середине XII века этими землями владел род Тайра, представители которого даже пытались создать независимое государство в регионе Канто (восстание Тайры-но Масакадо (931—940)).
С конца XII века до середины XV века провинция Симоса была под контролем рода Тиба, боковой ветви рода Тайра. В XVI веке их земли захватил род Го-Ходзё. В период Эдо (1603—1867) провинция Симоса была разделена на несколько владений хан. Самое крупное из них контролировал род Хотта — вассал сёгуновТокугава.
В результате административной реформы в 1873 году земли провинции Симоса были разделены между префектурами Тиба, Ибараки, Сайтама и столицей Токио.
