قد تعود أصول لعبة هوكي الجليد إلى ألعاب العصا والكرة التي تم لعبها خلال العصور الوسطى أو حتى اليونان القديمة ومصر، بينما يعتقد البعض أن اللعبة تطورت من لعبة أيرلندية قديمة، لكن بدايات هوكي الجليد - مثل العديد من الرياضات الأخرى - لا تزال غامضة.
يقول فيل بريتشارد، أمين متحف Hockey Hall of Fame في تورنتو: "هناك لوحة في القرن الخامس عشر لأشخاص يلعبون شيئًا ما على الجليد يشبه الهوكي.. كان لديهم حتى العصي".
قد يكون أقرب سلف للرياضة الحديثة هو "chamiare" أو shinty - لعبة العصا والكرة لعبت على الجليد في أوائل القرن السابع عشر في اسكتلندا. في منتصف القرن الثامن عشر الميلادي، تم لعب لعبة تسمى باندي على الجليد في السهول الشرقية لإنجلترا.
في الشتاء، تنافس اللاعبون مع الزلاجات الحديدية على الجليد الذي تشكل في المروج التي غمرتها المياه وفي أماكن أخرى، امتدت تلك اللعبة إلى لندن ثم في خمسينيات القرن التاسع عشر إلى شرق كندا، حيث لعبها جنود بريطانيون، وفي القرن التاسع عشر، لعب الأمريكيون الأصليون في كندا لعبة مماثلة وفقا لموقع هيستورى.
يمكن إرجاع مصطلح "الهوكي"، وفقًا للموسوعة الكندية، إلى كتاب عام 1773 نُشر في إنجلترا بعنوان الأحداث الرياضية والتسلية، لكن الاسم قد يسبق تاريخ هذا المرجع الأول المعروف للعبة.
في بريطانيا العظمى، أشارت الصحف في وقت مبكر من أربعينيات القرن التاسع عشر إلى لعب الهوكي على الجليد حيث ذكرت صحيفة اسكتلندية في عام 1842 نبأ وفاة شاب خلال لعبة هوكي شارك فيها حوالي 20 مشاركًا يتزلجون على قناة حيث انهار الجليد فجأة، وتم غمر العديد منهم، ولكن تم إنقاذهم، باستثناء فتى.
في عام 1949، زعمت مجلة في الاتحاد السوفيتي أن هذه الرياضة تم اختراعها في روسيا في منتصف القرن التاسع عشر، لكن هذه الادعاءات قد تكون مشكوك فيها.
انطلقت أول بطولة لهوكي الجليد وفقًا للاتحاد الدولي لهوكي الجليد، في 3 مارس 1875، بين فريقين من تسعة رجال من نادي فيكتوريا للتزلج في مونتريال الكندية لكن هناك أدلة على أن الألعاب المنظمة تم لعبها في وقت سابق من هذا القرن في كندا والولايات المتحدة.