Лонгюйон состоял из сёл Вилланси и Ноэр и ферм Бассеваль, Фоссьё, Фонтен-Сен-Мартен, Монсель, Фруакюль и Дорлона. Город обязан своим названием древнеримскому «лонг ге» (длинный брод), который позволял переправляться через Шьер во времена Древнего Рима.
Первое упоминание города относится к 634 году. Уже в то время здесь существовала часовня святой Агаты, которая впоследствии была преобразована в коллегиальную церковь в 1120 году, а в 1636 году служила казармой для французских солдат.
Замок Мюсси упоминается с 1144 года, но был разрушен в 1670 году французскими оккупационными войсками по приказу Людовика XIV.
Город был разрушен в 1914 году в начале Первой мировой войны, а 23 и 24 августа того же года прусская пехота расстреляла 86 жителей.
Новейшая история города связана с развитием местной металлургической промышленности и крупного железнодорожного узла, через который осуществлялось передвижение железной руды из бассейна Брие и угля с севера. Упадок промышленности пришёлся на 1970-е годы с закрытием металлургических комбинатов и рудников Лотарингии.
Металлургия
В Лонгюйоне существовали две кузницы, называемые собственно Лонгюйон и Лопиньё. Кузница Лонгюйон датируется концом XVII — началом XVIII веков (1679—1705) и, видимо, была закрыта около 1887 года. Кузница Лопиньё, построенная в 1670 году, включала также и первую доменную печь с полной инфраструктурой и в 1783 году была включена в объединение кузниц, литейных и металлургических заводов Лонгюйон-Лопиньё-Везен.