ゴリはグルジア語で丘を意味し、町の名は付近に今も残るゴリ砦に由来する。砦は7世紀ごろより史料で存在が確認される。考古学的調査により、砦は紀元前3世紀から紀元前2世紀ごろにはあったと推定されている。

ダヴィト4世（在位1089年-1125年）によって町が建設された。2008年の南オセチア紛争では、ロシア空軍による爆撃（英語版）を受け死傷者が出ている。