スポーツ・レジャーとしての近代カヌーの始まりは、１５０年ほど前からと言われています。１８６５年、スコットランドの弁護士ジョン・マッグレガーが、カヌーでバルト海、スエズ運河、ヨルダン川など多くのヨーロッパの川を下ったことが刺激となって、近代カヌーは発展していったとされています。

カヌーそのものの歴史はとても古く、太古の人々が水上交通の道具や狩猟の道具として作り、世界各地で文明とともに発展していきました。

南方や日本にも見られるように、原始人が木の幹にまたがって手で漕いだもの、木の中をくり抜いて船首船尾を尖らせ、船の形を作り、かいは手から木の枝へ、次に木で作ったかいにと進化していったものと考えられています。

丸木船は、縄文前期にはすでに使用されていました。長野県・野尻湖では、１５００年〜２０００年前のものとみられる丸木船が発見されています。

このような近代カヌー以前の小船は、世界各地にあります。グリーンランドのイヌイット（エスキモー）が海で狩りをするためにアザラシの皮を張ってつくった船が、カヤックの原型となっており、カナダの先住民が湖沼や川の連絡用や狩猟用に木をくりぬいてつくったものが、カナディアンカヌーの原型となっています。

この他にも、ポリネシア、ミクロネシアなどの南太平洋の島々やインドネシアでは、パンの木などを利用して様々なカヌーを作り上げました。２つのカヌーに木を渡して繋いだ双胴船（ダブルカヌー）や、安定性を増すためフロートを横に張り出したアウトリガーカヌーなどが主なもので、これらに帆を張り３０００キロを超える遠洋航海に出かけていたといいます。