Анализ фамилии:
Эта фамилия в 50% случаев имеет русское происхождение, в 5% - украинское, в 10% - белорусское, в 30% приходит из языков народов России (татарского, мордовского, башкирского, бурятского и т. д.), в 5% случаев происходит из болгарского или сербского языков. В любом случае эта фамилия образована от имени, прозвища, рода занятий или места жительства дальнего предка человека по мужской линии.
Просторечный глагол 'костерить' означает 'бранить, попрекать'. Отсюда костёра, или костеря, - брюзга, ворчун. (Ф) Родственный фамилии Кострикин, Кострицын, Кострецов, Кострюков, Костров. Но вероятна и другая основа кострика (костерь, кострица, кострец) - 1) сорная трава; 2) верхняя часть задней ноги туши. Костров вероятно имеет ту же основу. (Э) См. также Костров, Костриков