История компании начинается с 1865 году, когда горный инженер Фредрик Идестам основал (финск. Knut Fredrik Idestam) в Тампере (Финляндия) на берегах реки Нокия небольшой деревообрабатывающий завод по производству бумаги. Река же, небольшой городок и сама местность, в свою очередь, берут название от имени темного пушистого зверька из семейства куниц, который жил здесь и на местном диалекте назывался nois (множ. nokia).  Fredrick Idestam модернизировал процесс и внедрил важное новшество, вошедшее в учебники маркетинга, оно состоит в том, что он наносил оригинальное лого Nokia на всю продукцию, выпускаемую фабрикой, благодаря чему бренд стал известным и легкоузнаваемым.
     Позднее, в конце 19 века появляется новое направление бизнеса производство электроэнергии, основателем этого дела стал зять F. Idestam`а - Gustaf Fogelholm. Стоит отметить, что родоначальник фирмы был яростным противником этого начинания. Тем не менее, первая электростанция была запущена в 1903 году, а вторая - в 1913.
В годы первой мировой войны производство бумаги испытывает кризис, а энергию, которая вырабатывается на электростанциях Nokia покупает их сосед компания FRW (Finnish Rubber Works), крупнейший финский производитель резиновых изделий. У FRW дела, наоборот, шли в гору, и в результате часть акций постепенно переходит в руки FRW, а Nokia оказывается частью большой корпорации. В 1922 году к компании присоединяется еще и фирма по производству электрических кабелей (Finnish Cable Works). Любопытно, что вся продукция - бумага, резиновые изделия и кабели - появляются на рынке под одним брендом Nokia. Тем не менее официальное слияние всех трех направлений произошло только в 1966 - 1967 годах. Чтобы эта операция удовлетворяла тогдашнему финскому законодательству, формально Finnish Rubber Works и Finnish Cable Works влились в Nokia, самую маленькую из всех трёх.
Объединённая компания имела пять основных видов деятельности: производство резиновых изделий, кабелей и электроники, переработка древесины и выработка электроэнергии. С годами к ним добавилось несколько второстепенных, например производство охотничьих ружей, пластиков и химических материалов.

С начала 1980-х годов Nokia начала активно развивать разработку и производство электроники, чему способствовала покупка ряда электронных компаний. В 1987 году основным бизнесом компании становится бытовая электроника, в частности Nokia стала третим по величине производителем телевизоров в Европе.В конце 1980-х Nokia попала в кризисное состояние, чему способствовал общий спад мировой экономики. Кризис был преодолён реструктуризацией бизнеса, отказом от большинства видов деятельности и фокусировкой на новых технологиях — в частности, развитием телекоммуникационного подразделения.Как отдельная компания в 1988 из Nokia была выделена Nokian Renkaat, которая с 1967 являлась её «резиновым» подразделением. Сейчас Nokian не имеет никакого отношения к Nokia.
В 1989 году компания продала финскому оператору Radiolinja оборудование для сети GSM, а в 1992 году выпустила свой первый ручной GSM-телефон Nokia 1011.В 1994 году президент Nokia Йорма Оллила окончательно сформулировал стратегию компании: отказ от старого бизнеса и фокус на телекоммуникационных технологиях.Эта стратегия позволила компании стать крупнейшим в мире производителем сотовых телефонов: доля рынка Nokia оценивается в 40 %.
В июне 2006 года Nokia и Siemens решили объединить свои отделения по производству телекоммуникационного оборудования в новую компанию — Nokia Siemens Networks