La ruelle tire son nom du poêle de l’Ancre (poêle de la tribu des bateliers) qui se trouvait sur le quai, à droite de l’entrée de la rue. Comme les maisons de la rue appartenaient pour la plupart à la tribu, il est fort probable que la ruelle qui les desservait ait été à l’origine une cour privée, de même que d’autres ruelles qui s’ouvrent sur le quai des Bateliers. Il y subsiste plusieurs maisons anciennes, dont le numéro 3 au linteau de porte daté de 1539.

La ruelle de l’Ancre est au centre du plan, elle débouche sur le quai à droite de la pliure