Gemiyi icat eden kişi veya uygarlık kesin olarak bilinmemekle birlikte, gemi yapımı tarihinin çok eski zamanlara dayandığı bilinmektedir. İnsanlar, su üzerinde seyahat etmek için ilk önce botlar, sal yapmış ve sonrasında daha büyük gemiler inşa etmeye başlamışlardır.
Gemi yapımının en eski örnekleri, M.Ö. 4000-3000 yıllarına kadar uzanır. Bu dönemde, Nil Nehri ve Mezopotamya’da insanlar, toprağa, tahta ve kamışa dayalı gemiler inşa etmişlerdir.
Antik Yunan ve Roma dönemlerinde, gemi inşaatı ve denizcilik teknolojisi gelişmiş ve savaş, ticaret, keşifler gibi çeşitli amaçlarla gemiler kullanılmaya başlanmıştır. Daha sonra Orta Çağ’da Vikingler, gemi yapımını daha da ileriye götürmüş ve deniz keşifleri yapmışlardır.
Günümüzde gemi yapımı ve denizcilik teknolojisi çok gelişmiş durumdadır. Büyük ölçekli gemiler, gemi teknolojisindeki ilerlemelerle daha güvenli ve verimli hale gelmiştir.