舍利弗诞生在南印度的摩揭陀国婆罗门种姓的家庭。父亲提舍是婆罗门教中负有盛名的论师。当母亲怀他的时候，智能就不同于寻常的妇女，据说这是受胎儿的影响。
舍利弗八岁的时候，就能通解一切书籍。二十岁时拜婆罗门删阇耶为师，与同学目犍连结为知友。学成以后，想另投高师。恰巧有一天在街上听到了马胜比丘所说的修行法语：“诸法因缘生，缘灭法亦灭，我佛大沙门，常作如是说。”顿时有所了悟，于是就和目犍连一起带领二百弟子到竹林精舍皈依了佛陀。
舍利弗皈依佛陀以后，僧团的力量便渐渐强大起来。舍利弗不仅精通四吠陀、奥义书和佛学，还是一位著名的建筑师。佛陀很信任舍利弗，第一次奉佛陀的慈命到北方弘法，并监督祇园精舍工程的就是舍利弗。舍利弗智慧第一，常代佛说法，为佛的侍者有二十年之久。僧团中碰到棘手的问题，都由舍利弗来解决。对维护僧团的统一做出了重大的贡献，受到佛陀的表扬和僧众们的尊敬。
佛陀在毗离城附近的森林中说法后，向大家公布三个月后就要进入涅槃。舍利弗听到这一惊人的消息，和诸位弟子一样，陷入深深的悲哀。他在禅定中思考：过去诸佛的上首弟子，都在诸佛以前进入涅槃，我是佛陀的上首弟子，应先于佛陀涅槃。他征得佛陀同意后，回到故乡迦罗臂拿迦村，拜别了百岁的老母亲后，就在他诞生的房中安住禅定，右胁而卧，进入涅槃。
