De oorsprong van het roeien ligt in het zoeken naar een manier om zich snel voort te kunnen bewegen over water. Zo moet al heel vroeg in het bestaan van de mens de voorloper van het roeien ontdekt zijn. De primitieve mens probeerde onder alle omstandigheden het eenvoudigste en meest doeltreffende transportmiddel over water te construeren. Kano's werden bijvoorbeeld gemaakt van een uitgeholde boomstam of van bundels papyrus, die aaneengebonden waren met repen leer. Er waren, naast het peddelen met de handen, twee manieren om de vaartuigjes voort te bewegen: het werken met een vaarboom of het gebruik van een pagaai. Een pagaai is een enkelbladige peddel; de peddel is recht en het blad heeft geen holle of bolle kant. De riem komt bij zulke eenvoudige vaartuigjes nog niet voor.
Het verschil tussen roeien en kanoën komt in grote lijnen hierop neer: "de kanovaarder rust op een vast steunvlak, terwijl de roeier beschikt over een zitplank die kan bewegen. De kanovaarder houdt de pagaai of peddel, waarmee de kano voortbewogen wordt, los in de hand; bij roeien rust de riem op een steunpunt. De kanovaarder zit met het gezicht in de richting waarin hij vaart; de roeier zit in tegenovergestelde richting."
In het jaar 2613 v.Chr. werd in Egypte de Vierde Dynastie gesticht: farao Snefroe was een groot scheepsbouwer. Zijn opvolger, Cheops, liet de eerste, grote pyramide bouwen. Toen hij stierf werden de delen van een houten boot in zijn grafkamer geplaatst. Deze boot werd voortbewogen met 20 pagaaien. Omstreeks 1600 v.Chr., tijdens de regering van farao Sestoris, verschenen de eerste roeiboten op de Nijl. Ten tijde van de Achttiende Dynastie, ongeveer 1340 v.Chr., kreeg Toetanchamon 37 modellen van boten, waaronder roeiboten, mee in zijn graf. Deze schepen moesten voor de gestorven koning paraat liggen, zodat hij, net als de zonnegod, langs de nachtelijke hemel kon varen totdat de zon opging en tot het moment van opstanding was aangebroken. Het schip als vervoermiddel voor de tocht door het hiernamaals is typerend voor Egypte, daar het schip in het Nijldal het transportmiddel bij uitstek was. Rond 1200 v.Chr. bestond de vloot van Ramses III uit schepen, waarin de roeiers, achter stevige, dichte verschansingen, beschermd waren tegen pijlen en speren. Rond 700 v.Chr. kwam het gebruik van een type schip, dat bireme genoemd werd, in zwang. Een bireme had twee rijen roeibanken en daarnaast een mast met een vierkant zeil. In de vijfde en de vierde eeuw v.Chr. werd de triëre of trireme het standaardoorlogschip. Het was een lang, rank roeischip met hulpzeil en met een bemanning van ongeveer 200 koppen. De roeiers zaten in drie schuine rijen boven elkaar. In de derde en de tweede eeuw v.Chr. werd een zwaarder type schip gangbaar, de quinquereme. Het had veel grotere riemen, die elk door meerdere roeiers bediend werden. Plinius de Oude schreef, omstreeks 40 v.Chr., dat de quinquereme vijf rijen roeibanken had en 400 roeiers.
Van de achtste tot de elfde eeuw n.Chr. vielen de Noormannen, die al snel de naam "Vikingen" kregen, als plunderaars en rovers Europa en Rusland binnen. De oorzaken hiervan waren de relatieve overbevolking en politieke onrust in hun land van oorsprong, hun zucht naar avontuur en ook de aantrekkingskracht van de rijkere, zuidelijke gewesten. De plundertochten werden ondernomen met de gehele vloot, die bestond uit lange, smalle schepen (drakkar), bemand met 50 tot 60 krijgers. De houten Vikingschepen hadden 20 tot 30 paren riemen en bovendien een mast met een vierkant zeil. Als het op vechten aankwam, of als de wind niet gunstig was, werden de riemen gebruikt.
Tussen 1170 en 1177 woedde er een oorlog tussen Venetië en Byzantium. De Venetiaanse schepen, met een lente van ruim 25,5 meter, werden voortbewogen door middel van 108 riemen, aan elke kant 54. "De riemen waren bijna 8 meter lang en ze werden uitgelegd op een "outrigger", die tot ongeveer 90 centimeter buiten de romp stak".
Rond het jaar 1300 werden de eerste schepen ontworpen die alleen zeilen voerden, zonder riemen als aanvulling.
Roeien werd echter niet alleen gebruikt als manier om snel vooruit te komen, het werd ook al vroeg als vorm van ontspanning en sport beoefend. De eerste aanwijzing van het roeien als sport, betreft roeiwedstrijden die zesduizend jaar geleden in China werden gehouden. In de klassieke oudheid heeft er een min of meer georganiseerde vorm van roeisport bestaan. Bij klassieke schrijvers vindt men aanwijzingen dat de Grieken en Romeinen wedstrijden in roeivaartuigen hielden. In het vijfde boek van de Aeneis beschrijft Vergilius een wedstrijd tussen vier gelijkwaardige schepen, die om het hardst roeien. Cloanthus, de kapitein van de Scylla, eindigde als winnaar voor Mnestheus met het schip Pristis, en voor de Chimaera, die aangevoerd werd door Gyas.
Ook in de Middeleeuwen en de Renaissance is het roeien niet alleen een voortbewegingsmiddel geweest, maar schijnt het ook als sport beoefend te zijn. Omtrent het jaar 1315 werden voor het eerst roeiwedstrijden gehouden op de lagunen bij Venetië. Bij deze wedstrijden, die "regatta" genoemd werden, werd staande geroeid.
Het zittend roeien ontstond in Engeland. De eerste echte regatta vond in 1775 in Engeland plaats. In 1829 was er voor het eerst een wedstrijd, de eerste Boat Race, tussen de universiteitsachten van Oxford en Cambridge. De Henley Royal Regatta, de oudste, jaarlijks gehouden, roeiwedstrijd ter wereld, werd voor het eerst in 1839 gehouden. Er was door Henley een scherpe scheiding geformuleerd tussen beroepsroeiers en amateurs. De Henley Regatta stond alleen open voor mensen die het roeien voor hun genoegen en ontspanning beoefenden. Mensen die met roeien als transportmiddel hun brood verdienden, zoals matrozen, vletterlieden en palingboeren, werden van deelname uitgesloten. Pas na de Tweede Wereldoorlog is deze bepaling opgeheven.
De invloed van Henley deed zich ook in Nederland gelden. Het roeien van wedstrijden door amateurs, "heeren liefhebbers", vond al gauw navolging in Nederland. Voordat het tot oprichting van de eerste roei- en zeilvereniging in Nederland kwam, hadden er al enige roeiclubjes bestaan. In 1846 werd de Koninklijke Nederlandse Yacht Club opgericht; de K.N.Y.C., waarvan koning Willem II beschermheer was, was bedoeld als nationale vereniging. De K.N.Y.C. organiseerde in haar oprichtingsjaar roeiwedstrijden op de Maas voor Rotterdam; vijf zesriemsgieken, waarin de roeiers twee aan twee naast elkaar zaten, roeiden tegen elkaar over een afstand van een geografische mijl, ongeveer 7407 meter. In het jaar daarna hield de K.N.Y.C. weer wedstrijden op de Maas, maar toen in vierriemsgieken.
In Amsterdam werd in december 1847 de Nederlandse Zeil- en Roeivereniging opgericht, die nu bekend staat als "de Koninklijke". De Koninklijke nam in 1885 het initiatief om de afgevaardigden van de toen bestaande roeiclubs bij elkaar te roepen ter bespreking van gemeenschappelijke belangen. Dit leidde tot de eerste overkoepelende organisatie van de Nederlandse roeisport, onder de naam: Verbonden Nederlandsche Roeivereenigingen; de organisatie kwam jaarlijks bijeen onder voorzitterschap van de Koninklijke. In 1916 achtten de Nederlandse Roeiverenigingen een hechtere organisatievorm, dan tot dan toe bestond, wenselijk. Daarmee spraken ze zich uit voor het oprichten van de Nederlandsche Roeibond. Op 21 januari 1917 werd de Nederlandsche Roeibond, de N.R.B., die later het predikaat "Koninklijk" kreeg, opgericht.
Aan het begin van de twintigste eeuw bestond er een grote oppositie bij de heren tegen het opnemen van damesleden; later zwichtten de verenigingen, vooral vanwege de financiële voordelen. Het damesroeien beperkte zich heel lang tot stijlroeien, waarbij het vooral ging om de mooie beweging en zeker niet om de snelheid. Omstreeks 1930 was er een overgang van het stijlroeien naar het stijl-snel-roeien, waarbij de snelheid iets belangrijker werd. Het stijl-snel-roeien werd volgens een puntensysteem beoordeeld, ook voor de snelheid werd een cijfer gegeven. Het was zo mogelijk dat een ploeg, die als eerste aankwam, toch geen winnaar werd, omdat er niet netjes was geroeid.
Lange tijd bestond er tegenstand tegen het snelroeien voor dames. In 1941 kwamen vele bezwaren naar voren, vooral in verband met de gezondheid, toen men als proef het snelroeien voor dames over 750 meter wilde invoeren. In het buitenland verschenen medische rapporten waarin beweerd werd dat meisjes, die geraceroeid hadden, geen kinderen meer konden krijgen. Vanaf eind jaren veertig, begin jaren vijftig nam het "snelroeien voor dames" een steeds serieuzere plaats in in de roeiwereld. Tegenwoordig wordt er door dames op dezelfde wijze geroeid als door heren.
De studentenroeiverenigingen, waarvan de eerste aan het eind van de negentiende eeuw opgericht werden, zijn heel belangrijk geweest voor het bepalen van het gezicht van de roeisport. De studenten waren "zuivere amateurs", die alleen uitkwamen op de nummers voor "heeren liefhebbers". Ook de burgerverenigingen hadden door amateurs bemande ploegen, maar in de periode tussen 1850 en 1880 hadden veel burgerverenigingen beroepsroeiers in dienst om, tegen betaling, voor hen wedstrijden te roeien. Op de wedstrijden waren geldprijzen te verdienen, die verdeeld werden tussen de beroepsroeiers en de vereniging waarvoor ze uitkwamen. Het doel van het huren van beroepsroeiers was om goed bezette, spectaculaire wedstrijden te realiseren als propaganda voor de roeisport. Het verdwijnen van de geldprijzen en van de nummers voor de beroepsroeiers viel samen met de opkomst van de studentenroeierij.
In 1874 werd in Leiden de eerste studentenroeivereniging, Njord, opgericht. Heel lang speelden alleen de corporale verenigingen een rol van betekenis. Deze situatie werd in de jaren zestig enigszins gewijzigd, toen een aantal studentenroeiverenigingen opgericht werd, die geen binding met een studentencorps hadden. Gyas was één van die algemene studentenroeiverenigingen.
De zeven corporale roeiverenigingen waren vertegenwoordigd in de Koninklijke Nederlandse Studenten Roei Bond, de KNSRB Als gevolg van de oprichting van een aantal algemene studentenroeiverenigingen kon de KNSRB niet meer gezien worden als vertegenwoordiger van het studentenroeien. De KNSRB bleef bestaan, maar in 1966 werd de Nederlandse Studenten Roei Federatie, de NSRF, opgericht als belangenbehartiger en vertegenwoordiger van alle studentenroeiverenigingen.