Роден е на 28 май 1853 година в Стокхолм, Gamla Stan (Старият град), в семейство на бедни родители. Майка му работи като перачка, а баща му е обикновен работник, който обичал да пие и ставал жесток. Изкарвал гнева си върху своя син. Таланта на 13-годишният Карл е забелязан от неговиятнеговия гимназиален учител, който му дава препоръки за Кралската художествена академия в Стокхолм. За да плати обучението си в академията, Ларсон работелработи като ретушор на фотографии, а след това започналзапочва да публикува във вестниците първите си творби – карикатури и графики.
Ларсон посещава Франция през 1877 г., но не проявява интерес към царуващият тогава в Париж импресионизъм. Заедно с други шведски художници се заселилзаселва на 70 km. от Париж. През това време рисува множество акварели от натура. През 1879 г. се запознава с Карина Берг, която скоро става негова жена. За сватбата се завръщат в Швеция. В началото на 1880-те Ларсон работи много и непрекъснато пътува между Франция и Швеция. Става един от основателите на Асоциацията на шведските художници – „Опоненти“. Той е известен като илюстратор, а на парижкият Салон през 1883 г. даже негова работа получава награда. В работите си той използва различни техники и материали.
През 1888 г. семейството получава подарък от родителите на двойката, малка къща в близост до Стокхолм.
През 1901 година семейството се преместват в нея и идилическият живот в собствено имение, заобиколен от жена си и децатаосемте им деца става източник на вдъхновение за художника. В албумите си „Наш дом“ („Спадърфет, нашето крайградско имение“) Ларсон рисува живота на семейството си, в ежедневие и празници. Тези творби са израз на вътрешният свят на художника и негов творчески маниер. Ларсон се изразява с локални цветове и тънък черен контур, с много детайли на рисунъка. Албумите на Ларсон са израз на неговата концепция за живота. Акварелите му са събрани в серии, които се издават във вид на книги.
