В августе 1991 года, когда Белый дом впервые оказался в осаде, ходили упорные слухи о том, что штурмовать его будет группа "Альфа". Однако тогда этого не произошло. Бойцы группы вошли в здание Дома Советов двумя годами позже.
Группа "Альфа" создана по приказу председателя КГБ СССР Юрия Андропова в октябре 1974 года как секретное подразделение по борьбе с терроризмом. По прямому назначению группа использовалась всего 10 раз (с 1981 по 1992 год) — в основном для обезвреживания террористов — угонщиков самолетов.
27 декабря 1979 года при поддержке армейских подразделений специального назначения "Зенит" и "Гром" группа принимала участие в штурме резиденции афганского прокоммунистического диктатора Амина; 12-13 января 1991 года — в штурме телецентра и телевизионной вышки в Вильнюсе.
Утром 20 августа 1991 года командир группы "Альфа" генерал Виктор Карпухин получил устный приказ штурмовать здание российского парламента, интернировать правительство и президента России в специально оборудованные места под Москвой. Для штурма "Альфе" придавались другие спецподразделения КГБ и МВД: московский ОМОН, дивизия ОМСДОН. По плану захвата Белого дома в 1991 году, группа "Альфа" должна была разместиться на Краснопресненской набережной и войти в здание после того, как десантники, располагавшиеся в районе посольства США, и силы МВД, дислоцированные на Кутузовском проспекте, оттеснили бы людей от парламента и образовали проход для "Альфы".
В интервью газете "Известия" Павел Грачев, рассказывая о событиях 19-21 августа 1991 года, сказал, что генерал Карпухин сам оценил обстановку и принял решение не участвовать в штурме. Истинные причины этого отказа до сих пор не ясны. Даже в книге Михаила Болтунова "'Альфа' — сверхсекретный отряд КГБ", написанной со слов самих сотрудников и руководителей спецподразделения и претендующей на полную правду об отряде, мотивы неучастия "Альфы" в штурме Белого дома объясняются весьма противоречиво и невразумительно: бойцы и руководство после вильнюсских событий якобы не пожелали стать крайними в политической игре. Эту версию косвенно опровергает хотя бы то, что сразу после путча 1991 года Виктор Карпухин был снят с должности.
В настоящее время группа "Альфа" входит в состав управления президентской охраны.