Ebu Derda, İslâmiyetin ilk yıllarında Müslüman oldu.
Daha evvel tüccar olmasına rağmen, ticareti bırakıp bir ortaklığa sermayesiyle girdi. Aldığı kârla geçimini temin eder, geri kalan zamanını ilmî çalışmalara verirdi. O, İslâmiyeti daha iyi anlamaya ve yaşamaya çalışıyordu. Çünkü namaz ve oruç birer ibadet olduğu gibi, yapılan her helâl iş de birer ibadettir. Ebu Derda, bir ömür boyu helâl işlerle meşgul olup, her işini bir çeşit ibadete çevirdi.
Hiç kimseyle münakaşa etmezdi. Hele bir Müslümanla kavga ettiği görülmedi ve duyulmadı. Fakat ata iyi biner, iyi kılıç kullanır, attığı oklar da boşa gitmezdi. Uhuda ve daha sonraki savaşlara da katıldı. Memleketini korumak için savaşır, milletiyle barış içinde yaşardı. Peygamberimiz (s.a.v.), İranlı Selman ile Ebu Derdayı mânevi kardeş ilân etti. Böylece müminlerin kardeş olduğu daha iyi anlaşılıyordu. Sanki, Fars ırkı ile Arap ırkı birer nehir gibi, İslâm okyanusuna akıp, bütünleşmişti. Herkesin gayesi Allahın rızasını kazanmak, sonsuz saadete ermekti. Siyah derili Ebu Derdaya beyaz derili Selman Kardeşim derdi. Böylece İslâm ilmi; kafaları ve kalpleri bir bütün haline getirdi. Artık bunların arasında ayrılık gayrılık olabilir mi?
Ebu Derda, fakir bir hayat yaşadı. Hem kazancını, hem de gelen hediyeleri öğrencilerine dağıtırdı. Ama o, fakirliği kimseye tavsiye etmiyordu. Hatta öğrencileri içinde zengin olanlar da vardı. Onun gayesi, ilimde ilerleyebilmek için, mal ve mülk gibi şeylerle meşgul olmamaktı. Bir asra yaklaşan ömrünü tamamen ilmî çalışmalara verdi. Hastalığı ilerlediğinde yakınlarına dedi ki: Beni oturtun. Arkasına yastık koydular. Bir öğretmen gibi kalabalığa döndü ve son dersini vermeye başladı. Dersini bitirmeden hayata gözlerini kapadı. Bu bilgili Müslüman, İslâmiyetin ilme verdiği önemi çok iyi anlamıştı. Bir ömür boyu ilmi ve güzel ahlâkı iki kanat gibi kullanıp daima hürmet ve saygıdeğer ufuklarda uçtu.