Часто тонкая настройка глубокой нейронной сети — это больше искусство, чем наука/инженерия. Какая скорость обучения наиболее оптимальна? Сколько слоев заморозим? Должны ли мы использовать разные скорости обучения в зависимости от слоя? В большинстве случаев многие из этих вопросов решаются методом проб и ошибок (и частично с помощью AutoML). Не будет ли лучше взять предварительно обученные веса по мере их поступления, использовать архитектуру в качестве экстрактора признаков и..