Ada pendapat yang mengatakan bahwa golf ditemukan pertama kali di Skotlandia, tetapi pendapat ini belum pasti–asal usul olahraga ini masih diselubungi ketidakjelasan. Tentu saja lapangan-lapangan golf tertuadan klub-klub golf tertua di dunia berada di Skotlandia, dan di seluruh dunia, kecuali di Amerika Serikat dan Mexico, permainan ini dikontrol dari St. Andrews di Skotlandia. The Royal and Ancient Golf Club of St. Andrews, yang tetap menjadi sebuah klub anggota privat, mengendalikan aturan permainan, menyetujui perubahan peralatan, dan mengelola Kejuaraan Terbuka dan Kejuaraan Amatir.
Dalam sejarahnya, Golf dikhususkan untuk pria. Oleh karena itu muncul mitos bahwa nama golf berasal dari singkatan "Gentlement Only Ladies Forbidden."
Ada banyak pendapat lain yang menyatakan asal muasal golf tersebut, yaitu:
Paganica adalah sebuah permainan yang dimainkan oleh bangsa Romawi Kuno, yaitu memukulkan sebuah bola kayu atau kulit ke dalam sebuah lubang dengan sebuah tongkat melengkung. Kedengarannya memang mirip golf, dan Paganica barangkali klaim paling kuat untuk menjadi cikal bakal permainan golf yang ada sekarang ini. Konon, bangsa Romawi membawa paganica ke negara-negara yang mereka taklukkan di sepanjang Eropa pada abad pertama. Seperti halnya cricket yang menyebar di seluruh Kerajaan Inggris ratusan tahun kemudian.
Kolven atau kolf diketahui telah dimainkan di Kerajaan Belanda pada tahun 1297, sebelum golf dicatatkan sebagai sebuah olahraga. Dalam kolven, tongkat melengkung digunakan untuk memukul bola ke dalam sebuah lubang di danau yang membeku. Ada banyak lukisan mengenai orang-orang yang memainkan permainan tersebut, dan hal itu disebutkan dalam beberapa dokumen pada masa itu, tapi tidak ada catatan mengenai peraturannya.
Chole juga dinyatakan sebagai bentuk asli permainan golf. Permainan ini dimainkan di bagian utara Prancis dan Belgia pada abad ketiga belas, dan kelihatannya muncul dalam berbagai versi yang berbeda. Inti dari chole adalah menahan tim yang berlawanan memukul bola yang sama, tetapi dalam arah yang berbeda. Setiap tim bisa memukul bola sebanyak tiga kali dalam upaya mencetak angka, dan tim yang berlawanan bisa melemparkan bola ke arah manapun yang mereka pilih. Oleh karena itu, hubungan chole sepertinya lebih dekat ke permainan hoki yang ada sekarang.
Profesor Ling Hongling, seorang akademisi China dari Universitas Lanzhou, menyatakan bahwa golf ditemukan di China dan dimainkan pada tahun 9445 SM. Dasar pernyataannya adalah sebuah referensi literatur yang ditemukannya dalam sebuah karya yang berjudul Dongxuan Record. Dalam referensi tersebut disebutkan tentang sebuah kegiatan pengisi waktu yang disebut chuiwan-chui (pukul bola). Dalam permainan itu, para pemainnya meukul sebuah bola dengan tongkat "yang sengaja dipahat."
Catatan paling awal mengenai golf Skotlandia adalah dari tahun 1457, dengan pengumumna oleh Raja James II dari Skotlandia (1430-1460) bahwa golf harus dilarang. Olahraga tersebut, katanya semestinya "tidak usah dipedulikan" karena mengganggu latihan memanah pasukannya.
The Royal Ancient Golf of St. Andrews
Klub golf pertama adalah The Royal Ancient Golf of St. Andrews (dikenal sebagai R&A). Dibentuk pada tahun 1754 oleh "Dua Puluh Dua Pria Terhormat." Awalnya klub tersebut dikenal sebagai The Society of St. Andrews Golfers dan ditambahai Royal pada tahun 1934, sehingga menjadi klub kedua yang sangat dihormati (yang pertama Perth). Dari sepuluh klub tertua, R&A adalah satu-satunya yang masih memainkan golf di lapangan aslinya, The Old Course. The Old Course bukanlah milik R&A, tetapi klub itu memiliki hak bermain khusus yang diberikan kepadanya oleh pemilik lapangan golf tersebut, yaitu St. Andrews Link Trust.
Kata Links atau lapangan golf hanya diberikan pada lapangan-lapangan yang terletak di tepi laut, karena dibangun di atas daratan yang menghubungkan (link) laut dengan daratan. Dengan kesepakatan bersama, kata links tidak pernah digunakan untuk lapangan golf yang ada di pedalaman.
The Royal Burgess Golfing Society of Edinburgh dibentuk pada tahun 1735 (kata Royal diberikan pada tahun 1929 oleh Raja George V), membuat posisinya semakin kukuh sebagai klub golf tertua yang masih ada. Klub itu bermain di Bruntsfield Links di Edinburgh.
Royal Blackheath Golf Club
Klub golf pertama di Inggris adalah Royal Blackheath Golf Club, dan klaimnya sebagai klub golf tertua di dunia dianggap lemah. Klub tersebut menyatakan dibentuk pada tahun 1745, dan berbagai catatan menunjukkan bahwa golf sudah dimainkan secara teratur di padang rumputnya sejak tahun 1608, meskipun kegiatan ini tidak dinyatakan sebagai sebuah acara klub. Royal Blackheath sendiri sebenarnya dibentuk pada tahun 1766, menjadikannya klub tertua yang ada di Inggris.
James I (James VI dari Skotlandia) (1566-1625) membawa klubnya ke London pada tahun 1603 ketika dia diangkat sebagai Raja Inggris, dan dia dikenal telah memainkan golf di padang rumput liar.
Lapangan golf pertama di Amerika Serikat dibangun di White Sulphur Springs, West Virginia. Oakhust Links dibuka pada tahun 1884 oleh sekelompok pemain Amerika, Skotlandia dan Inggris, dan Oakhust Challenge Medal milik mereka diakui sebagai hadiah golf pertama di Amerika Serikat. Oakhust masih digunakan dan tetap mempertahankan tradisinya dengan hanya mengizinkan pemakain tongkat kayu hickory dan bola asli guttie (guttha-percha). Tee atau tempat pertama kali pemukulan bola golf harus dilakukan di atas pasir, bukan di atas penopang bola dari kayu atau plastik, dan area fairways (area rumput setelah tee) dibiarkan pendek agar kambing bisa berkeliaran dengan bebas.
Lapangan golf untuk umum pertama di Amerika Serikat adalah Van Cortlandt Golf Course dibuka di New York City pada tahun 1895. Lapangan itu masih digunakan hingga hari ini, sebagai bagian dari Taman Van Cortlandt di Bronx.
Kejuaran golf besar pertama adalah kejuaraan Inggris Terbuka (British Open Championship). Kejuaraan ini pertama kali dimainkan pada tahun 1860 di Prestwick, dan merupakan kejuaraan golf besar tertua dan hanya dikenal sebagai "The Open."
Pemenang pertama British Open adalah Willie Park Sr. (1834-1903) dari Musselburgh di East Lothian, Skotlandia. Kejuaraan tersebut dimainkan selama tiga putaran dengan masing-masing dua belas lubang dan skor total park adalah 174.
Turnamen golf pertama yang ditayangkan televisi adalah Kejuaraan Amerika Serikat Terbuka (U.S Open Championship) tahun 1947, yang disiarkan secara lokal di St. Louis, Missouri. Pemenangnya adalah Lew Worsham (1917-1990). Turnamen golf pertama yang disiarkan secara nasional di televisi adalah Kejuaraan Dunia Tam O'Shanter pada tahun 1953. Pemenangnya adalah lagi-lagi Lew Worsham, yang m emasukkan bola dari jarak 120 yard dengan pitching wedge (sejenis tongkot golf yang memiliki sudut pukulan antara 44 dan 50 derajat) pada lubang terakhir, dan menang dengan satu pukulan saja.
