Golfens oprindelse er indhyllet i historien og udviklede sig sandsynligvis fra andre spil, hvor en lille genstand blev ramt af en pind. Romerne havde et spil kaldet Paganica, der involverede at ramme en sten med en pind. Franskerne havde et lignende spil kaldet chole, mens engelsken havde cambuca, som brugte en kugle af træ. Muligvis er det stærkeste krav til golf fra hollandsk, der var kendt for at spille et spil kaldet kolfas i begyndelsen af 1296. I sin oprindelige form spillede kolfwas på ethvert tilgængeligt terræn, herunder kirkegårde, motorveje og frosne søer. Formålet var at slå en række mål ved at slå bolden med en langhåndteret træklub. For at give et klart skud, var bolden lidt forhøjet på en bunke sand kaldet en tuitje, hvorfra vi får den moderne termen tee.
Den nederlandske påstand om spillets oprindelse er meget omtvistet af skotterne, der påpeger, at de havde spillet golf så længe eller længere end hollandsk. Uanset oprindelsen er der ingen tvivl om, at det var skotten, der populariserede spillet. Det blev så populært, at det skotske parlament i 1467 vedtog en handling, der forbyder golf, fordi det tog tid fra bueskydningspraksis, der var nødvendig for det nationale forsvar. Forbuddet blev bredt ignoreret. Ironisk nok blev den første fremstillede golfklub lavet af en skotsk bueproducent ved navn William Mayne, der blev udnævnt til Clubmaker til retten til King James i 1603.
Tidlige golfklubber blev udelukkende lavet af træ. Ikke kun var dette materiale let at forme, men det var også blød nok til ikke at beskadige de fyldte læder golfbolde, der blev brugt frem til midten af 1800'erne. Med introduktionen af Gutta-Percha golfbold i 1848 måtte golfspillere ikke længere bekymre sig om at beskadige bolden og begyndte at bruge klubber med jernhoveder. Fordi jernhovedet kunne formes med skarpt tilbøjelige slående ansigter uden at miste deres styrke, blev de jernholdige klubber kaldet jernstråler oftest brugt til at lave kortere skud på højbanen, mens træhovedklubber, der kaldes skov, blev brugt til fremstilling længere, lavtliggende skud.
Indtil begyndelsen af 1900'erne havde alle golfklubber træaksler, om de havde jernhoveder eller træhoveder. De første stålakselerede golfklubber blev lavet i USA i 1920'erne. Det var omkring denne tid, at nogle klubbproducenter begyndte at bruge det nuværende nummereringssystem til at identificere forskellige klubber snarere end de gamle farverige navne. Skoven blev nummereret en til fem, og jernene blev nummereret to til ni. Jo højere tallet, jo mere tilbøjelig er overfladen af slående ansigt. Putteren afrundede sæt af klubber og bevarede sit navn i stedet for at blive tildelt et nummer. Sandkilen blev udviklet i 1931 for at hjælpe golfspillere til at sprænge sig ud af fælder. Med tiden blev sandkilen tilsluttet af flere andre golfklubber.
I begyndelsen af 1970'erne introducerede producenterne golfklubber med aksler fremstillet af fiberforstærkede kompositmaterialer, der oprindeligt var udviklet til militær- og luftfartssystemer. Disse aksler var meget lettere end stål, men de var dyre, og nogle golfspillere mente, at de nye aksler blev bøjet for meget. Senere, hvor ultrahøjstyrkefibre blev udviklet til styring af flexen, opnåedes kompositskakter mere accept.
De første metalhoveddrivere blev udviklet i 1979. I 1989 blev de fulgt af de første oversize metal-headed drivere. De oversize hoveder blev støbt med et hul center og fyldt med skum, hvilket gjorde dem samme vægt som mindre træhoveder. Når de kombineres med en længere, let kompositaksel, opnår de overstørrede metalskove en større hovedhastighed ved slag og kører bolden yderligere. Over-size-klubbens hoveder havde også større slående ansigter, hvilket gjorde dem mere tilgivende, hvis bolden blev slået off-center.
I dag er design og fremstilling af golfklubber både en kunst og en videnskab. Nogle klubbagere bruger den allerførste computerstyrede design og automatiserede fremstillingsteknikker til at bygge hundredtusinder af klubber om året, mens andre er afhængige af erfaring og håndværksfærdigheder til at bygge kun et par dusin specialfremstillede klubber om året.