大正２年に登場した貨物用テンダー式機関車で、日本初となる本格的国産貨物用蒸気機関車として知られています。「キューロク」、「クンロク」、「山親爺」の愛称で親しまれ、国鉄においては最後まで稼働した蒸気機関車としても有名な形式となっています。
この９６００形式は、大正元年に１２両が試作された蒸気機関車に使用していましたが、形式を譲り、９５８０形式となりました。本形式は９６００形式２代目となります。
初代９６００形式（９５８０形式）の改良型となる形式で、明治時代に輸入された輸入機関車の設計をお手本に設計され、日本の実情に見合ったものとなっています。狭軌鉄道の機関車では不可能とされてきた大きなボイラーを火室の上に載せるなどの、独創的な発想で出力向上を図っています。
純国産車と銘打っていますが、実際は９６００～９６１７号機までは部品の一部に輸入品が使われていました。９６１８号機以降は純国産品で、運転台下部のデザインがＳ字からＺ字に変更されています。
８２８両が製作され、鉄道省（国鉄）向けのほか、樺太や台湾向け、私鉄では同型機が製造されました。
東海道本線などの幹線で活躍。牽引力が強くなった機関車が登場すると亜幹線や支線で活躍しました。出力が高い割には軸重が軽いのが９６００形式の特徴で、昭和１２年に日中戦争がはじまると、標準軌に改軌し中国に送られた車輛もありました。
戦後になると北海道や九州の石炭輸送、貨物輸送量が多く、勾配区間をもつ、路盤の弱い路線を中心に活躍しました。９６００形式の歴史の中で、室蘭本線にて３０００ｔ超の重量列車の引き出しに成功した事があります。このように、使い勝手、レールへの粘着力、牽引力において、これらの能力を超える機関車が開発されなかった事もあり、大正生まれながら蒸気機関車の終焉まで残る事になりました。
長い長い歴史を持つため、その形態も非常に多く、四国地区を除く北海道から九州まで広範囲にて活躍しており、その地域の事情に合わせた改造などが行われており、様々なスタイルがありました。
最後まで残ったのは、室蘭本線追分駅近くの追分機関区にて入換用として残っていた３両で、昭和５１年まで活躍しました。
全国で活躍したため、各地に静態保存されています。