Sebelum kompas ditemukan para pelancong berjalan dari satu tempat yang mudah diingat ke tempat berikutnya. Pelaut bergantung pada garis-garis pantai (bahkan untuk perjalanan jauh) menggunakan corak pantai sebagai penanda. Ada penjelajah samudra lepas memanfaatkan rasi bintang (Bintang utara) di waktu malam hari dan matahari pada siang hari sebagai pemandu pelayaran. Namun, penanda ini tidak berguna ketika tertutup lapisan awan, dan sudah pasti banyak kapal yang tersesat jauh sekali selagi mereka menantikan awan kembali bersih.
Prinsip kompas ditemukan pertama kali di China sekitar abad ke-4 SM. Ada juga rujukan tentang peralatan magnet yang terbuat dari batu tertentu pada masa Yunani awal dari tulisan-tulisan orang mesir, tetapi sayangnya tidak ada bukti yang menunjukan pentingnya penggunaan kompas. China menemukan batuan magnetis tipis, batuan yang secara alami bisa digunakan sebagai bahan untuk membuat magnet. Batuan ini akan memutar ketika ditempatkan pada air tertutup dan selalu menunjuk ke arah selatan. Ketika batuan magnetis ini ditemukan, kemampuan batu ini tidaklah digunakan untuk ilmu pelayaran, tetapi untuk feng shui. China menggunakan kompas yang pertama untuk fungsi bangunan, ruang, jendela dan mebel secara alami menurut prinsip feng shui. Lima abad sebelumnya, belum ada satupun manusia yang menyadari bahwa penting dan berharganya nilai kompas dalam pelayaran.
Semasa Dinasti Han berkuasa, beberapa ilmuwan mengetahui bahwa batu tipis bermagnet digunakan untuk feng shui dan peruntungan serta dapat menyediakan informasi yang penting bagi pelancong. Kompas yang pertama dibuat dari batu tipis bermagnet berbentuk sendok kecil dan terapung dalam mangkuk air. Pelancong China menyebut kompas tersebut sebagai "ikan terapung". Sekitar tahun 600 M, orang China yang lain terilhami oleh penemuan besi. Mereka berulangkali merombak besi tersebut serupa batu tipis bermagnet yang dapat berfungsi sebagaik batu tipis bermagnet yang asli. Besi yang dibuat bermagnet menunjuk ke arah selatan. Besi dibuat dengan ukuran lebih panjang dibanding batu tipis bermagnet yang mudah pecah. Pada waktu yang sama ada ilmuwan yang menemukan gagasan penggunaan balok kayu kecil sebagai ganti jerami untuk mengapungkan jarum besi. Namun, kayu sulit untuk memperoleh ketetapan.
Pada tahun 800 M, kompas besi terapung telah umum digunakan pada kapal-kapal China. Hal ini mendorong keberanian mereka melakukan penjelajahan samudra lepas sejauh India. Berabad-abad lamanya, kompas menempatkan penjelajah China lebih maju dari Eropa dan Arab dalam hal navigasi kapal. Pada waktu yang sama, seorang kapten kapal China yang tak dikenal menemukan gagasan untuk memakai minyak sebagai ganti air untuk pengapungan kompasnya. Jarum besi mengapung lebih mudah jika berada di atas minyak yang pada. Segera setelah itu, pelaut lain memutuskan bahwa kompasnya akan bekerja lebih baik jika berada di dalam suatu kotak tertutup. Minyak tidak akan tumpah dari mangkuk ketika angin keras. Kawan-kawan mereka yang lain mengikuti memasukkan minyak, tatal kayu, dan jarum besi ke dalam suatu keramik dengan ditutup kaca. Kompas modern akhirnya ditemukan.
Kompas baru dikenal di Eropa setelah tahun 1150. Pada tahun 1190, seorang pria Inggris, Alexander Neckam menulis tentang penggunaan alat untuk memandu kapalnya. Seseorang di Perancis menemukan kompas jarum poros sekitar tahun 1240. Sebagai ganti penggantungan kompasnya, ia menyeimbangkanya dengan titik jarum sehingga jarum kompas terapung di air. Ia menyebutnya dengan jarum apung. Adalah seorang Italian yang menemukan nama "kompas", sekitar tahun 1250. Kata tersebut berasal dari bahasa Italia "Compassare" yang secara hafiah berarti "melangkah melingkar", secara kiasan berarti "untuk mengukur atau memandu".
Hanya ada peningkatan kecil dalam teknik kompas magnet pada tahun 1400 M. Yang telah berubah hanyalah pemahaman kita tentang gaya magnet dan medan magnet bumi. Satelit Global Positioning System (GPS) memperoleh dua popularitas dan penggunaanya 20 tahun yang lampau. GPS dengan jelas menunjukkan posisi anda berada, buka ke arah mana Anda pergi dari sini. Oleh karena itu, ekspedisi dengan teknologi canggih pun masih menggantungkan teknologi kompas yang sederhana.