وفي عهد الخليفة عثمان أعلن رجل يهودي من أهل اليمن اسمه عبد الله بن سبأ, ويلقب بابن السوداء, إسلامه ولكنه كان منافقاً خادعاً ماكر
يبدوا أنه كان عضوا في جمعية سرية أو كانت هذه الجمعية بزعامته, بالكتابة إلى أنصاره في الكوفة والبصرة وكانت هذه الخطابات مزورة بتوقيعات السيدة عائشة وطلحة والزبير وعلي, وكانت هذه الخطابات مليئة بالإشاعات المغرضة في الخليفة عثمان بن عفان
واتفقوا أن يعودوا للمدينة في شوال كأنهم حجاج، ولما كان شوال في سنة خمس وثلاثين خرج أهل مصر على أربع فرق وعددهم بين الستمائة والألف وأميرهم الغافقي ومعهم ابن السوداء،
وخرج أهل الكوفة في أربع فرق وأميرهم عمرو بن الأصم وعددهم كعدد أهل مصر،
وخرج أهل البصرة في أربع فرق وأميرهم حرقوص بن زهير وعددهم كعدد أهل مصر والكوفة,
وقد كان أهل مصر يريدون عليا ويرغبون في ولايته الخلافة، وكان أهل البصرة يريدون طلحة، وأما أهل الكوفة فإنهم كانوا يريدون الزبير.
ودخل الغافقي وضرب الخليفة عثمان رضي الله عنه بحديدة معه, وضرب المصحف برجله فاستدار المصحف واستقر بين يديه وسالت عليه الدماء, وجاء سودان بن حمران ليضربه فانكبت عليه نائلة والتقت السيف بيدها فقطع أصابعها, وضرب عثمان فقتله, وقد حاول غلمان لعثمان الدفاع عنه فقتلوهم.
ولم يكتف الثوار بقتل عثمان وكل من قاتل دونه بل نهبوا بيت المال مما يؤكد ضلالهم وفسادهم, وبلغ بهم الفجور حدا أنهم لم يسمحوا بمواراة هذا الجسد الطاهر ثلاثة أيام, وشيع بعد ذلك الخليفة عثمان إلى مثواه الأخير بالبقيع في نفر قليل من الصحابة.