El significado etimológico de recursión es recorrer (regresar o retroceder o volver) y viene del latín recurrere = volver a ocurrir. En matemáticas aparece como un método para definir funciones u otros objetos matemáticos.
En cierta forma, la definición recursiva viola una de las reglas del definir, pues el objeto definido entra dentro de la definición. Por ejemplo, el factorial de un número $n$ (denotado con $n!$) se define así: $0!=1,n!=n(n-1)!$. Ver también los Postulados de Peano --que definen en forma recursiva los números naturales. Ver una definición más completa en mi post ¿Dijiste Recursión?
En el lenguaje, la recursión es una especie de anidamiento (como en las muñecas rusas) de las oraciones.
Por ejemplo, considere la siguiente oración:
Sócrates, quien usualmente declaraba "sólo sé que no sé nada", demostraba su sabiduría ganando en el debate a sus adversarios.