Cette image romantique, et le terme même de ninja, sont relativement récents (vers 1780). Les termes utilisés pour désigner ces guerriers-espions étaient plutôt shinobi ou shinobu, parfois rappa (乱破, rappa?), suppa (素破, 水破 ou 出抜, suppa?) ou kagimono-hiki, ou encore kusa (草, kusa? les herbes, une des techniques consistant à attendre tapis dans l'herbe et à attaquer les troupes de dos après leur passage). En raison de leur origine géographique probable, les ninjas sont aussi parfois nommés hommes d'Iga (Iga no mono) ou de Kōga, ou encore troupe d'Iga (Iga shu) ou de Kōga.

Les ninjas étaient en effet probablement issus de ces deux provinces voisines situées à côté de Kyōto. Ces provinces étant indépendantes, ils n'étaient redevables d'aucune taxe et jouissaient d'une liberté de mouvement que n'avaient pas les bushi (ou samouraïs), qui étaient eux inféodés aux daimyō (seigneurs féodaux) ; ils n'étaient pas non plus soumis au bushidō (武士道, bushidō? code de l'honneur du bushi), et pouvaient donc pratiquer des techniques de guerre non-orthodoxe (espionnage, guérilla, embuscades, assassinats). N'étant pas subordonnés aux grandes familles, celles-ci les utilisaient pour leurs besognes (pillages, assassinats). Une de leurs grandes spécialités était de s'introduire de nuit dans les châteaux et camps militaires et d'allumer un incendie, afin de faciliter l'assaut par des troupes classiques ; ils se déguisaient en général pour porter la même tenue que leurs victimes (ils n'étaient donc pas forcément vêtus de noir) afin de semer la confusion.

Par ailleurs, les familles nobles commencèrent à faire appels à des mercenaires dès le règne du premier empereur du Japon : Jinmu Tennō (sans doute des ninjas). Mais c'est lors de la période Kamakura (1192-1333), période marquée par de nombreux conflits entre familles et assassinats, que ces pratiques, même si elles ne correspondaient pas au code du bushido, ont été le plus utilisées par le pouvoir et les seigneurs féodaux. Ceux qui