John Campbell nació en Edimburgo en marzo de 1766. Perdió a su padre a los dos años y a su madre a los seis, y fue criado por un tío. Estudió en la Royal High School, junto al futuro escritor Walter Scott, y trabajó como aprendiz de orfebre antes de dedicarse al ministerio cristiano.
En Edimburgo, fundó la Sociedad de Tratados Religiosos de Escocia en 1793. En los años siguientes, junto al predicador itinerante James Haldane, también ayudó a multiplicar rápidamente las escuelas dominicales en la región. Se convirtió en pastor de la capilla congregacional de Kingsland, en Londres, en 1802, y usó el púlpito para despertar interés por las misiones en África, entonces prácticamente desconocida para los ingleses.
En 1812, ya director de la Sociedad Misionera de Londres, fue enviado al Cabo de Buena Esperanza para inspeccionar las estaciones de la misión en el sur de África. Partió de Ciudad del Cabo en 1813 y viajó miles de kilómetros por Bethelsdorp, Graaff-Reinet, Griquatown y el territorio de los batlhaping, liderados por el jefe Mothibi.
De vuelta en Londres, publicó Travels in South Africa (1815), uno de los primeros relatos detallados sobre los pueblos del interior de la región que hoy corresponde a Botsuana y Sudáfrica. El libro despertó gran interés del público británico por las misiones africanas.
Entre 1819 y 1821, hizo un segundo viaje, ahora acompañado del misionero John Philip. En esa visita, orientó al joven Robert Moffat a iniciar un trabajo entre el pueblo batswana. Moffat se instaló primero en Dithakong (también llamada Lattakoo) y solo años después, en 1825, trasladó la estación a Kuruman, que se convertiría en uno de los puestos misioneros más influyentes del sur de África en el siglo 19.
Como muchos misioneros de su generación, Campbell mezclaba el anuncio del evangelio con una confianza casi acrítica en la civilización europea, tratando las costumbres africanas como un atraso que debía corregirse. Historiadores del siglo 19, como George McCall Theal, señalaban otro límite de Campbell como escritor: la simplicidad y la credulidad de sus relatos, que hacían poco confiable buena parte de lo que describía sobre episodios que no presenció con sus propios ojos. Estos dos puntos se reconocen hoy como límites históricos de su obra.
De vuelta en Inglaterra, se convirtió en uno de los primeros escritores en producir literatura misionera para niños, además de editar durante años la revista The Youth’s Magazine. Sus relatos de viaje ayudaron a despertar en toda una generación el interés por la evangelización del continente africano.
Campbell murió en Londres el 4 de abril de 1840, a los 74 años, después de décadas dedicadas a la causa de las misiones.