Fu uno dei più grandi Amoraim della prima generazione in Eretz Israel. Secondo alcuni era il figlio di Levi ben Sisi, uno dei grandi discepoli di Rabbi Yehuda Hanassi e fu egli stesso tra i suoi giovani discepoli. 
Numerose nel Talmud le dispute tra R'Yehoshua ben Levi e R'Yochanan, suo discepolo e suo compagno di studio. In questi casi, quasi invariabilmente, la decisione halachica segue il parere di R'Yehoshua ben Levi, nonostante la grande autorità di R'Yochanan. 
Grande è la sua autorità nella Aggada e famosa la sua santità che lo fece annoverare tra i Tzaddikim che entrarono vivi nel Gan Eden.
Ebbe moltissimi seguaci e quasi tutti gli studiosi della successiva generazione furono in misura maggiore o minore suoi discepoli.