По данным МВД КБР, джамаат "Ярмук" был сформирован летом 2002 года в Панкисском ущелье Грузии из жителей Кабардино-Балкарии, примкнувших к отряду полевого командира Руслана Гелаева. Эмиром джамаата, который сами боевики называли кабардино-балкарским батальоном, Гелаев назначил Муслима Атаева, выделявшегося незаурядными организаторскими способностями, хорошими физическими данными и пользовавшегося авторитетом среди земляков. Атаеву удалось собрать под своим началом около 30 единомышленников, большинство из которых уже успели повоевать в Чечне на стороне незаконных вооруженных формирований, а некоторые прошли диверсионную подготовку в лагерях Хаттаба. В ноябре 2002 года в составе отряда Гелаева они пересекли грузино-российскую границу и в районе ингушского селения Галашки вступили в бой с федеральными силами. Основная часть отряда ушла в Чечню, а Атаев получил приказ вместе со своими подчиненными вернуться в Кабардино-Балкарию. Здесь они должны были на некоторое время затаиться, постараться пополнить отряд новыми членами и запастись оружием и ждать дальнейших указаний. Костяк "Ярмука" из 11 человек во главе с Атаевым вернулся в республику единой группой, остальные добирались поодиночке. Здесь Атаев, согласно полученному заданию, развернул активную агентурную работу среди местной молодежи и в итоге привлек на свою сторону еще несколько десятков человек. Хотя он соблюдал строгую конспирацию, правоохранительным органам стало известно о его возвращении. Милиционеры не раз пытались задержать главаря джамаата, но тому удавалось скрыться. При этом в перестрелках с бандитами были убиты четверо сотрудников милиции, но и милиционерам удалось уничтожить шестерых боевиков. Скрываясь от преследования в различных районах республики, Атаев обрастал новыми связями в среде местных ваххабитов, через них сумел выйти на Шамиля Басаева, с которым он, по имеющейся информации, встречался в Баксане, где лидер чеченских боевиков находился в течение месяца летом 2003 года. После той встречи "Ярмук", как считают в спецслужбах, стал непосредственно подчиняться Басаеву и выполнять его указания. Самое известное преступление, в котором подозреваются участники "Ярмука",— нападение на управление Федеральной службы по контролю за оборотом наркотиков по Кабардино-Балкарской республике в декабре прошлого года. Тогда было убито четверо наркополицейских и похищено более 250 единиц оружия. По одной из версий, вооружившись, участники "Ярмука" собирались совершить в КБР крупномасштабную вылазку, подобную той, что произошла в Ингушетии летом прошлого года.