L’abbaye a été fondée en 1030 par un personnage éminent : Gosselin, vicomte de Rouen, seigneur d’Arques et de Dieppe. Le duc Robert le Magnifique la dota très richement de propriétés proches et lointaines : moulins sur le Robec et l’Aubette, prés de Sotteville, terres dans les vallées de la Bresle et de la Touques. Ces propriété furent encore agrandies par des biens en Angleterre après la conquête par le duc Guillaume.
Gosselin avait choisi comme premier abbé, un moine de St-Ouen qui avait été formé à St-Wandrille. Isambart était un lettré et il fit beaucoup pour le renom de son établissement. On lui prête la diffusion du culte de saint Nicolas en Normandie.
Le monastère a été appelé plus tard monastère de Sainte Catherine.

D’après la légende, un moine syriaque du nom de Siméon serait passé à Rouen à l’époque de la fondation. Etait-il un envoyé officiel du monastère de Ste-Catherine du mont Sinaï, ou un moine gyrovague ? Toujours est-il qu’il possédait une insigne relique :  un doigt de la sainte. Il a semble-t-il essayé, en vain, de devenir abbé de la nouvelle fondation. Sur le départ, il aurait offert à l’abbaye un fragment de sa relique. Elle avait beaucoup de vertus. Elle guérissait de la suette, du mal de dent et de la stérilité féminine. Les moine, biens avisés, introduisirent peu à peu ce vocable qui finit, à la fin du moyen âge à supplanter même la Trinité.
Le monastère était une place militaire de première grandeur. A la fin du moyen âge, avec l’invention de l’artillerie, elle était devenue la clef de la ville. Elle eut donc à souffrir des opérations militaires qui ne manquaient pas de se dérouler autour d’elle à chaque siège. Le Fort de Ste-Catherine qui l’entourait fut la raison de ses malheurs. Las du danger qu’il représentait, les rouennais obtinrent d’Henri IV sa destruction. Ce fut le monastère qui fut détruit ! Le cardinal de Bourbon, Charles I^er, avait créé une chartreuse à Gaillon. Son successeur trouva plus économique de la jumeler avec l’établissement du Mont de Rouen. Les Chartreux préférèrent s’installer au Petit-Quevilly.
Le monastère fut abandonné. Ses pierres servirent, entre autres, à la construction de la nouvelle Chartreuse.
Les bâtiments de l’abbaye étaient entourées de puissantes murailles armées de tours qui en faisaient un véritable forteresses. On y entrait par une porte munie d’un pont-levis. Ses murailles existaient depuis au moins le XIV^e siècle. Nous avons peu d’indications sur les dispositions intérieures.
La première église, construite lors de la fondation du monastère, fut abattue en 1107 pour être remplacée par une grande église. La concordance de date amène à penser qu’elle devait ressembler à l’église de l’abbaye de Boscherville. Elle avait la forme d’une croix et possédait une tour lanterne à la croisée de la nef et du transept. Cette tour était surmontée d’une toit d’ardoises assez bas. L’intérieur était décoré de peintures. Un seul chapiteau a été conservé. Il est maintenant dans le jardin du Musée Départemental des Antiquités. Les colonnes cylindriques et la corbeille ornée de feuilles d’acanthes sont proches des colonnes du chœur du XIII^e, siècle de la cathédrale.
Le monastère avait disparu depuis longtemps lorsque survint la Révolution. Son emprise a été envahie par la végétation. En 1994, un sondage archéologique, juste à l’emplacement de l’ancienne abbatiale, a permis de relever les niveaux archéologiques.