Шпага «родилась» в Испании в 60-х годах XV века, первоначально представляя собой облегченный меч, оснащённый сложной декоративной гардой. В то время как боевые мечи в силу большого веса мало подходили для повседневного ношения, многие дворяне в мирное время носили мечи облегченного или парадного типа, которые и послужили прообразом первой шапги. Что характерно, шпага изначально не воспринималась как отдельный вид оружия, и потому во многих европейских языках носила и носит название «меч» — исп. espada, итал. spada, фр. epee, англ. sword, и только в немецком языке получила своё, отдельное, название — нем. Degen. Несмотря на кажущуюся декоративность это оружие, в случае опасности позволяло эффективно защищаться и атаковать и при отсутствии доспеха и щита, в связи с чем получило широкое распространение.
Впоследствии, под влиянием французской школы фехтования, шпага стала короче, а затем утратила лезвия, превратившись в гранёный клинок, заметно уступающий длиной как ранним шпагам, так и кончару — похожему на шпагу гранёному клинку, длина которого позволяет кавалеристу добить упавшего на землю противника. При этом в некоторых странах новые шпаги, потеряв в длине, сохранили одно, а то и оба лезвия.
На протяжении XVI—XVIII веков боевые шпаги находились на вооружении войск, главным образом, у кавалеристов и офицеров, постепенно вытесняясь палашами и саблями.
Шпага была признанным отличительным знаком дворянина. Лишение дворянского титула сопровождалось т. н. «гражданской казнью» — переломом шпаги в присутствии свидетелей (обычно на лобном месте, при стечении народа и после оглашения приговора, иногда — над головой приговорённого).
Главной особенностью шпаги является наличие сложной гарды, хорошо защищающей руку, именно эта гарда позволяет без риска для пальцев использовать защиты, основанные на коротких лаконичных движениях
Спортивная шпага — колющее оружие, состоит из стального гибкого клинка, защитной гарды и рукоятки. Клинок трёхгранного сечения (максимальная ширина граней 24 мм), утончающийся к вершине, на которой имеется наконечник с подвижным электроконтактным устройством. Общая длина шпаги не превышает 115 см (клинка не превышает 95 см), диаметр гарды 135 мм, масса шпаги до 750 грамм.
Фехтование как вид спорта было включено в программу первых Олимпийских игр современности 1896 года.
В XIX веке итальянский мастер фехтования и аристократ Висконти, живший в Бельгии, изобрёл новый тип рукояти, под названием «пистолетная» или «бельгийская» рукоять, которая закрывала всю кисть. В спортивном фехтавании она признана нечестной и запрещена.
В 1708 году Петр Первый вооружил шпагами всю пехоту. В 1741 году у рядового состава пехоты прямая шпага была заменена полусаблей. Шпаги были оставлены только офицерскому составу всех родов войск и на некоторое время гвардейским мушкетерам.
С XIX века (до 1917 г.) шпага была принадлежностью формы одежды генералов и офицеров кирасирских полков вне строя, а также парадной формы гражданских чиновников.
Право на ношение шпаги было привилегией. Студенты часто получали право носить шпагу после окончания университета. Из всех университетов России только в Московском Университете студент получал право на ношение шпаги уже при зачислении.
Ныне шпага сохранилась как составная часть парадной формы высших дипломатических чиновников в отдельных странах.