Первое упоминание герба Карелии датируется 1561 годом. Он был создан для использования в похоронной процессии шведского короля Густава Вазы.
В XVI веке в Швеции существовала традиция проносить знамена с гербами провинций на королевских похоронах. Для похорон Густава Вазы потребовались такие знамена, что привело к созданию герба Карелии.
Первое упоминание герба относится к 1561 году, когда он был использован на коронации короля Эрика XIV. Наиболее раннее сохранившееся изображение датируется 1562 годом и находится в Национальной библиотеке Франции. В рукописи приведены гербы 24 шведских провинций, включая карельский.
Герб представлял собой две согнутые в локте руки: одна в доспехе с мечом, другая в кольчуге с саблей на красном поле. Между рук изначально не было короны, она появилась позже. Герб символизировал борьбу России и Швеции за Карелию. Позже его элементы повлияли на герб Финляндии, где лев в доспехах попирает саблю.