1) Собрано мало символов, хотябы по 30, а лучше по 50.
2) Разброс центров масс по высоте не 8 должен быть а 20-25 в данном случае
3) Не видно на видео размер входа как относится к буквам, должен покрывать полностью символ + процентов 30 больше. Если это так уже, то надо каптчу увеличить, т.к. ширина 25 никуда не годится. Надо хотя бы 35
4) Нужно поставить галку "быстрое распознавание" при обучении.
5) Зависимость от регистра не нужно ставить при бучении, лучше в дополнительных параметрах поставить перевод в заглавные.