Los orientalistas han expresado diversas opiniones sobre los orígenes del Sufismo. Algunos autores sostienen que fue influenciado por la filosofía griega. Para apoyar esta hipótesis, el profesor R.A. Nicholson de Cambridge citó similitudes entre las obras de los Sufis y los filósofos griegos. Otros autores han afirmado que el Sufismo se deriva del Vedanta o el budismo. En nuestra opinión, todas estas teorías están equivocadas. Si bien algunos de los principios de los movimientos son similares, las similitudes no prueban que un movimiento provenga de otro.
El profesor Louis Massignon, un destacado erudito francés del misticismo islámico, concluyó después de un extenso estudio, que el Sufismo se originó en el Sagrado Corán y las tradiciones del profeta Muhammad (saws). No fue trasplantado desde fuera, sino que se originó en el Islam.
El erudito indio Shah Waliullah (ra) (m. 1762) observó que los métodos adoptados por varias órdenes se ajustaban a las inclinaciones naturales de la gente en las áreas donde surgieron estas órdenes. Los shaykhs pueden haber recurrido a ciertos aspectos de otras religiones o sistemas, particularmente cuando las costumbres estaban tan profundamente arraigadas que eran inexpugnables. Pero debemos evitar leer demasiado sobre similitudes superficiales. Un aspirante Sufi sentado en meditación se parece mucho a un yogui sentado en meditación, pero los dos difieren significativamente en sus métodos y propósitos.
En otro nivel, la cuestión de qué misticismo deriva de qué fuentes es académica. El impulso místico existe dentro de cada alma humana. Ciertos principios han encontrado expresión en todos los países, todos los idiomas, todas las religiones, no porque las sociedades se presten unas a otras, sino porque Dios nos creó con un anhelo innato de conocer la Divinidad. Es parte de la naturaleza humana volverse hacia la mejora y la formación espirituales. Si los conceptos y prácticas que se encuentran en el Sufismo se encuentran también en el cristianismo, el judaísmo, el hinduismo, el budismo y otras tradiciones, no significa que no sean islámicos, al igual que no son cristianos, no judaicos, no hindúes o no budista. Todos los credos los reclaman legítimamente, ya que reflejan la condición humana. Aquellos que pierden este punto, que insisten en establecer fuentes externas para el Sufismo u otras tradiciones espirituales, pierden tanto la singularidad de cada monumento del descubrimiento humano como la unidad que subyace a toda la creación.