Родился 13 июня 1938 года в Лондоне (его дедушка и бабушка в 1911 году бежали из Киева от еврейских погромов). В 14 лет бросил школу и поступил учеником в гранильную мастерскую. К 17 годам сделал свое первое кольцо с бриллиантами, а в 22 года основал компанию Graff Diamonds. Пока фирма не получила известность на рынке, ему, по собственному признанию, приходилось "выходить на улицу, чтобы продать свои изделия". В 1973 году стал первым ювелиром, получившим королевскую награду за развитие предпринимательства Queen`s Awards for Enterprise. Впоследствии еще трижды удостаивался этой премии. Известен как коллекционер искусства, его коллекция оценивается в $250 млн. По данным журнала Forbes, состояние господина Графа равняется $2,2 млрд (305-е место в мире). Женат, трое детей.