Rođen je 1924. godine u Novom Pazaru. Prvi značajniji posao trenera u saveznom rangu bio mu je u Boru, 1961. godine, a do dolaska u Partizan 1965. godine, trenirao je i niški Radnički, Sarajevo, kao i mladu reprezentaciju Jugoslavije. Ono što ga je krasilo bilo je široko obrazovanje. Bio je poliglota, magistrirao je ekonomiju, a sebe je opisivao kao „trenera – istraživača“. Bio je pravi inovator u trenerskoj profesiji, kao i vrstan stručnjak i pedagog.
Gegić je trijumfalno vodio ekipu kroz Kup šampiona 1965/66, redom su pred Partizanom padali evropski giganti – Nant, Verder, Sparta, Mančester Junajted, ali u finalu protiv Reala nije se moglo više od poraza, iako je Partizan prvi dao gol na toj utakmici. Više o ovoj utakmici kao i o Partizanovom putu do finala mogli ste da pročitate u jednom od ranijih postova na ovom blogu.
Posle briselskog finala, Gegić odlazi u Tursku, u Fenerbahče, i naredne decenije provešće u toj zemlji, trenirajući posle Fenera mnoge klubove – Eskišehir, Adanu, Bešiktaš, Bursu, Samsun i Dijarbakir, a trenirao je i turski nacionalni tim. Bio je učitelj i mentor mnogim turskim trenerima, od kojih je svakako najpoznatiji Fatih Terim. Turska štampa ga je zvala Profesor fudbala.
Abdulah Gegić je preminuo 4. juna 2008. godine u Novom Sadu, od posledica moždanog udara, a sahranjen je u rodnom Novom Pazaru.