
Lahir dan besar di New York City, Karp mengawali kariernya sebagai pegawai magang di perusahaan animasi Frederator Studios milik Fred Seibert. Karp kemudian bekerja di forum rumah tangga UrbanBaby sampai forum tersebut dijual ke CNET tahun 2006. Karp mendirikan perusahaan konsultasi perangkat lunaknya sendiri, Davidville. Di sana ia bertemu teknisi komputer Marco Arment dan mengerjakan sejumlah proyek pesanan klien. Saat terjadi celah antarkontrak tahun 2006, keduanya mulai mengerjakan sebuah situs web mikroblog yang diluncurkan bulan Februari 2007 dengan nama Tumblr. Per 19 Mei 2013, Tumblr memiliki lebih dari 108 juta pengguna. Tahun 2010, ia masuk daftar 35 inovator terbaik di dunia di bawah 35 tahun yang disusun MIT Technology Review TR35.

Karp dan Arment mulai mengerjakan platform tumblelog-nya sendiri saat ada waktu luang antarkontrak selama dua minggu pada tahun 2006. Tumblr diluncurkan bulan Februari 2007 dan dalam kurun dua minggu, jumlah penggunanya mencapai 75.000 pengguna. Aku sadar bahwa aku harus memanfaatkan satu hari penuh untuk mengerjakan produk yang sangat kucintai ini. ... Rasanya begitu luar biasa, membebaskan, dan penuh inspirasi. Bulan Oktober 2007, Karp menutup firma konsultasinya setelah kerjaannya di Tumblr mulai mengganggu proyek kliennya.[13] Davidville berganti nama menjadi Tumblr, Inc. dan 25 persen sahamnya dijual kepada beberapa investor. Per 19 Mei 2013, Tumblr memiliki lebih dari 108 juta blog. Pada 20 Mei 2013, diumumkan bahwa Yahoo! sepakat untuk mengakuisisi Tumblr senilai $1,1 miliar. Karp tetap menjabat sebagai CEO.