عزيه خانم خواهر بزرگ حسينعلي بهاء در نوشتار خود با نام «تنبيه الغافلين» ضمن خاطراتي كه از دو برادر خود نقل مي كند مي نويسد:
«... بر حسب ظاهر (حسينعلي) در خدمت حضرت ثمره (ميرزا يحيي) كمال ادب را منظور مي داشتند، اذن جلوس نيافته هيچ وقت در حضور حضرت نمي نشستند».
و در جاي ديگر مي نويسد:
«پس از مراجعت از بدشت با آن آتش شوري كه در سرها بود روزي جناب ايشان (حسينعلي) حضرت ثمره را در همين خانه به نهار دعوت كردند من هم جوان بودم، از جاي برخواسته با نهايت خدمتگزاري تداركي صحيح ديديم منتظر بوديم كه تشريف بياورند. در اين اثنا ايشان (حسينعلي) رسيدند عيال ايشان كه كمال وجاهت و صباحت منظر داشتند با عيال برادر ديگرم مرحوم كليم هر دو دست از آستين درآورده خودي آراستند و لباس هاي فاخر پوشيده، با كمال نزاكت منتظر ورود حضرت بودند كه جناب ايشان آمده و آن دو را با آن حال مشاهده كرد، فرمودند چه شده كه هر دو خود را آرايش داده و مشاطگي كرده ايد؟ مگر نمي دانيد اگر حضرت تشريف بياورند به هر يك از شما ميل نمايند ديگر بر ما حرام مي شويد. تا تشريف نياورده اند شماها لباس ها و وضع هاي خود را تغيير بدهيد، حضرات فورا برخواسته و وضع را تغيير دادند».