A、对小球a、b和轻杆组成的系统,在运动过程中系统只受重力,故系统的机械能守恒,故D项正确.
B、对a球,在运动过程中受重力和杆的弹力,而小球的重力势能和动能都在增加,即小球的机械能增加了,根据功能关系可知,杆一定对a球做正功
,故B项正确.
C、对b球,在运动过程中受重力和杆的弹力,由于a球、b球和杆组成的系统的机械能守恒,且a球的机械能增加,故b球的机械能减少,根据功能关系可知杆对b球做负功,故C项错误.
D、对b球,由于系统的机械能守恒,且a球的机械能增加,所以b球的机械能减少,故A项错误.
故选:BD