Departemen Teknik Geologi didirikan pada bulan Agustus 1959 sebagai bagian dari Fakultas Teknik UGM yang berupa gabungan dari bagian Geodesi dan Geologi. Pada saat itu, Dekan fakultas Teknik dijabat oleh Prof. Ir. Soepardi dan Sekertaris Fakultas dijabat oleh Prof. R. Soeroso Notohadiprawiro merangkap sebagai ketua bagian Geodesi-Geologi Teknik. Lokasi perkuliah yang dipergunakan adalah berupa ruangan di Skip IV. Bentuk gabungan ini berjalan selama sekitar dua tahun, dan mulai Oktober 1961 dipisahkan menjadi bagian Geologi Teknik dan ketuanya Prof. R. Soeroso Notohadiprawiro. Dari mahasiswa angkatan pertama (1959) hanya ada empat mahasiswa yang memilih ke bagian Geologi Teknik, yaitu: Imam Wahyono Sumarinda, Supraptono Sulaiman, Leonardo Radjagukguk dan Sukotjo. Sedangkan yang lainnya memilih masuk bagian Geodesi, antara lain: Prijono, Djoko Wahyatun, Rahmad PH., Budihardjo dan lainnya.
Satu-satunya dosen tetap waktu itu adalah Prof. R. Soeroso Notohadiprawiro. Perkuliahan dibantu pengajar dari Institut Teknologi Bandung (ITB), antara lain: Drs. Sukendar Askin, Dr. Roebini Soeria Atmadja, Drs. Harsono Pringgoprawiro, Ir. Sunarto, Ir. Ambyo, dan Ir. Madjedi Hasan. Bantuan tenaga pengajar dari ITB ini berangsur-angsur berakhir pada tahun 1975.
Untuk meningkatkan kualitas pendidikan, dilaksanakan program kerjasama antar Fakultas Teknik UGM dengan unibersity of california at Los Angles, melalui dana US-AID yang saat itu sangat dikenal sengan simbol gambar ‘jabat tangan’ atau sitilah masyarakat ‘gambar salaman’. Bantuan US-AID ini dalam bentuk sejumlah mikroskop polarisasi yang sampai saat ini masih difungsikan di Laboratorium Geo-Optik, sejumlah contoh batuan yang kini masih dapat kita lihat di Laboratorium Bahan Galian, sejumlah buku serta palu dan kompas geologi tipe brunton. Selain itu terdapat pula dosen tamu yaitu Prof. Dr. Daniel Klemme. Bantuan guru besar dari USA tersebut diakhiri beberapa tahun kemudian karena situasi politik yang tidak memungkinkan.
Mulai tahun 1963 bagian Geologi Teknik menempati beberapa ruangan di kampus Jetis Jl. A.M Sangaji 47 Yogyakarta bersama dengan bagian Teknik Sipil. Dengan adanya G30S/PKI, situasi Nasional tidak menentu sehingga bagian besar dosen dari ITB tidak aktif mengajar. Periode ini bisa dikatakan sebagai periode bertahan untuk hidup. Kurangnya dosen menyebabkan dibentuknya tenaga relawan mahasiswa tingkat akhir untuk memberikan kuliah, mengawasi praktikum, serta membimbing kuliah lapangan di Karangsambung dan Kulon Progo.
Sebagian dari tenaga relawan tersebut kemudian ada yang menjadi dosen seperti Wartono Rahardjo, Sukandarrumidi, Marno Datun, dan Almarhum Kaderie, dengan koordinator oleh Prof. R. Soeroso Notohadiprawiro, Ir. Imam Wahyu Sumarinda, dan Ir. Aryono Suwarno. Selain itu pengajar dari ITB dan beberapa alumni masih dapat membantu mengajar hingga 1973.
Tahun 1970, situasi Nasional mulai membaik dan mulai banyak staf pengajar baru, kegiatan akademis mulai stabil. Pada hari Sabtu 1977, sivitas akademika Universitas Gadjah Mada berduka karena pendiri Jurusan Teknik Geologi Prof. R. Soeroso Notohadiprawiro meninggal dunia dalam usia 73 Tahun.
Pada tahun 1980 keluar Peraturan Pemerintah Nomor 5 Tahun 1980 mengenai perubahan pemakaian nama Bagian menjadi Jurusan. Sehingga bagian Teknik Geologi menjadi Jurusan Teknik Geologi hingga sekarang.
Jurusan Teknik Geologi tahun 1885 pindah menempati kampus UGM Bulaksumur yaitu kompleks Fakultas Teknologi Pertanian di Jl. Flora yang berupa gedung baru berlantai 3 dengan luas tanah 2100 m². Sementara itu Laboratorium Bahan Galian/Geologi Ekonomi menempati lokasi luar kampus UGM Bulaksumur yaitu di Jl. Pingit Yogyakarta.
Tahun 1978-1984, Jurusan Teknik Geologi mendapat bantuan tenaga dosen tidak tetap dari msisi/zending Australia yaitu Dr. Yudith M. Bean. Pada tahun 1986-1988 dengan dana dari World Bank IX, mendapat bantuan dosen dari USA yaitu Prof. Dr. Ronald P. Willis. Di samping itu, beberapa alumni ikut membantu sebagai dosen antara lain Ir. Sidharto Sumarno (Almarhum) dari LGPN-LIPI dan Ir. Palen Sudarmojo dari DPMA-PU Bandung.
Pada tahun 1984, Jurusan Teknik Geologi mendirikan stasiun lapangan Geologi di Bayat, Klaten, yang kemudian diberi nama stasiun Lapangan Prof. R. Soeroso Notohadiprawiro untuk mengenang jasa-jasa beliau. Kampus lapangan ini dibangun dengan bantuan PERTAMINA dan kemudian dipergunakan untuk praktek/kuliah lapangan.
Sejak bulan Desember 1992, Jurusan Teknik Geologi sekali lagi pindah dan menempati komplek Fakultas Teknik UGM di Jl. Grafika No 2, Kampus UGM, menempati gedung baru berlantai 3 seluas 4567 m².
Sejak bulan Maret 1997 Jurusan Teknik Geologi memulai Program Pasca Sarjana berdasarkan keputusan Dirjen Pendidikan Tinggi No. 473/DIKTI/Kep/1996 tanggal 26 September 1996.
Kepercayaan terhadap Jurusan Teknik Geologi untuk menyelenggarakan pendidikan geologi yang bertaraf Internasional telah diakui dengan terpilihnya Jurusan Teknik Geologi oleh Asean University Network (AUN) – JICA sebagai Host of Institution untuk penyelenggaraS-2 dan S-3 bidang Teknik Geologi di Asia Tenggara melalui sponsor JICA sejak pertengahan tahun 2003.