Как избавиться от этого?

Нужно выстраивать своё мышление, структурировать его и тогда чувства будут подстраиваться под ваше мышление или хотя бы иметь не столь важное значение. А когда в голове нет базы, то конечно в этом хаосе может случаться очень многое.
Красиво ли бежать к какому-то другому мужику, если вы повздорили со своим текущим мужчиной? Вероятно здоровое мышление со здоровыми моральными принципами это не может подразумевать это. Но если мысли случаются с вами, а не выстраиваются, то этот механизм может работать очень по-разному. Какая-то барышня может на автомате быть привязана к текущему мужчине и даже, если он её х*рачит днём и ночью она ни за что не уйдёт от него. А другой как только приспичит побежит к кому угодно, а третья как вы может иметь определённую привязанность на стороне и ей не зазорно будет бежать туда. Разумеется это система не имеет полов, актуальна для всех.
Если же человек постоянно задумывается над выстраиванием здравых позиций у себя в голове и соответствующего поведения, то может иногда и будут подобные влечения, но они не будут иметь такого значения как в голове где нет морали, так же не будут иметь реализации.
Т.е. здравая моральная позиция в вашем случае может выглядеть как "я знаю, что у меня есть влечение к определённому мышлению, но я отдаю себе полный отчёт в том, что он женатый и только этого по уму достаточно для того, чтобы не идти с ним на контакт. Помимо прочего у меня есть мой мужчина и только этого достаточно, чтобы не идти на контакт с тем мужчиной. Правда у вас почему-то камнем преткновения становится женитьба. Конечно и в этом есть повод для того, чтобы хотя бы здесь прекратить контакты с тем мужчиной, однако фактически наличие текущего молодого человека уже должно подразумевать отсутствие близких отношений с другими мужчинами.
Однако вашему мужчине с которым вы на стороне что-то там делали жена его не шибко то мешает иметь с вами контакты. И в этом смысле конечно есть вариант альтернативного поведения вне здоровой морали.

Тут продолжение.
Вы можете просто выйти замуж и несмотр на это ходить на сторону. Просто делать это аккуратно, чтобы не спалили.
Это не соответствует морали, но это возможно.
У многих в голове есть концепция о том, что есть верное и не верное решение. Но в реальности зачастую есть несколько альтернативных сценариев, которые могут существовать, если вы позволите им быть.
Можно не принимать к сведению мораль, как собственно вы и делали до сих пор и просто иметь паралельные отношения с двумя мужчинами. Просто ваш вопрос стоит так, что вы видите в этом проблемы. Но до сих пор
по сути паралелльно взаимодействуя с двумя мужчинами однорвеменно вы не видели в этом проблем. И вы почему-то это не осознаёте. Почему-то факт того, что вот вы поженитесь для вас играет какую-то табуированую роль.
Оправдание в виде "вот у нас плохо стало в отношениях и я тут же побежала к женатому мужчине" по отношению к морали ничтожно. И если для вас это было нормой, то почему бы не взять на вооружение норму в виде того чтобы
жениться и паралельно иметь отношения с другим мужчиной? Я ни к чему не призываю, просто есть 2 основные логические концепции. Вы либо живёте в соответствии со здоровыми моральными нормами, либо же отказываетесь от
этих норм вовсе. Можно просто сделать выбор.