Родилась в Ганновере в семье военного музыканта, который стремился дать своим пятерым детям музыкальное образование. В 1772 г. по приглашению своего старшего брата Уильяма Гершеля приехала в Англию и на оставшиеся сорок лет его жизни стала его неотлучной помощницей.
В первые восемь лет совместной жизни, пока Уильям Гершель ещё занимался музыкой, Каролина выступала в качестве певицы во всех его музыкальных сочинениях. По мере усиления астрономических занятий Гершеля Каролина оказалась вовлеченной и в них, ассистировала Гершелю в наблюдениях и вела их записи. В свободное время Каролина Гершель самостоятельно наблюдала небо и уже в 1783 г. открыла три новых туманности. В 1786 г. Каролиной Гершель была открыта новая комета — первая комета, обнаруженная женщиной; за этой кометой последовали ещё несколько.
После смерти Уильяма Гершеля в 1822 г. Каролина Гершель вернулась в Ганновер, но не оставила астрономии. К 1828 г. она закончила работу над каталогом 2500 звездных туманностей, наблюдавшихся её братом; в связи с этим Королевское астрономическое общество Великобритании наградило её золотой медалью. Королевское астрономическое общество избрало её почётным членом (1835).
В 1838 Каролина Гершель была избрана почётным членом Ирландской Королевской академии наук.
В честь Каролины Гершель назван астероид 281 Лукреция и кратер на Луне.