Родился 7 июня 1942 года (по другим данным — 1940 года) в городе Сирт в бедуинской семье берберского племени аль-каддафа. В 1965 году окончил военный колледж в Бенгази, обучался в центре подготовки бронетанковых войск в Великобритании, прослушал курс лекций по истории в Ливийском университете.
Во время учебы создал организацию "Свободные офицеры юнионисты-социалисты", ставившую целью захват власти в стране. 1 сентября 1969 года, будучи капитаном, возглавил военный переворот, итогом которого стало низложение короля Идриса I. С этого момента Каддафи, получивший звание полковника, фактически управлял страной, занимая в разное время должности председателя Совета революционного командования, верховного главнокомандующего, премьер-министра и генсека Всеобщего народного конгресса. В середине 1970-х годов начал реализацию своей "Третьей всемирной теории" (вместо капитализма и коммунизма), итогом которой стало преобразование в 1977 году Ливии в джамахирию ("государство народных масс"). К концу 1980-х годов отказался от всех официальных постов и стал именоваться революционным лидером.
С 1970-х годов Запад неоднократно обвинял режим Каддафи в помощи террористам во всем мире. В 1986 году США заявили о причастности Ливии к теракту на дискотеке в Западном Берлине, в котором погибло 3 и было ранено 200 человек. Обвинения послужили поводом для бомбардировки, проведенной ВВС США 15 апреля 1986 года. В ноябре 1991 года США, Великобритания и Франция обвинили спецслужбы Ливии в причастности к взрывам американского Boeing 747 над шотландским Локерби в 1988 году (270 жертв) и французского самолета DC-10 в 1989 году (170 жертв). Обвинения стали поводом для введения Совбезом ООН санкций против Ливии. 27 июня 2011 года Международный уголовный суд, допросив 170 свидетелей, выдал ордер на арест Каддафи по обвинению в преступлениях против человечности. Ему, в частности, инкриминировали внесудебные аресты, казни и пытки оппозиционеров.