Колин Лютер Пауэлл родился 5 апреля 1937 года в Нью-Йорке, в семье выходцев с Ямайки. Учился он в обычных муниципальных школах. В 1958 году получил степень бакалавра геологии в Нью-Йоркском городском колледже, в 1971 году — магистра управления в университете Джорджа Вашингтона.
По окончании колледжа, где он посещал военные курсы, поступил на воинскую службу в звании лейтенанта. Дважды, в 1962 и 1968 годах, отправлялся во Вьетнам. Принимал участие в военных операциях, был ранен.
В 1971 году во время стажировки в отделе менеджмента и финансирования Пентагона познакомился с министром обороны Каспаром Уайнбергером и его замом Фрэнком Карлуччи.
1 июня 1979 года стал самым молодым в истории США бригадным генералом. С 1983 года — старший советник главы Пентагона Каспара Уайнбергера. В 1986 году назначен командиром 5-го армейского корпуса, дислоцированного в ФРГ. С декабря 1987 года по январь 1989 года — советник президента Рональда Рейгана по вопросам национальной безопасности. 1 октября 1989 года назначен председателем объединенного комитета начальников штабов.
30 сентября 1993 года в звании четырехзвездного генерала ушел со службы и занялся бизнесом. Работал в компаниях Gulfstream Aerospace и America Online. Тогда же стал играть заметную роль в Республиканской партии: его кандидатура даже рассматривалась в качестве соперника Билла Клинтона на выборах 1996 года. В 1997 году создал благотворительную организацию America`s Promise, занимающуюся помощью детям.
16 декабря 2000 года был представлен Джорджем Бушем в качестве кандидата на должность государственного секретаря США и 20 января 2001 года после одобрения сенатом приступил к исполнению обязанностей.
Имеет военные (медали "За выдающуюся службу", "За отличную службу", Бронзовую звезду и Пурпурное сердце и т. д.) и гражданские награды (две президентские медали Свободы, "Золотую медаль конгресса" и т. д).
Автор автобиографической книги "Мое американское путешествие" (1995).Женат, трое детей, двое внуков. Сын Майкл в настоящее время возглавляет Федеральную комиссию по связи.