Как работает полносвязная нейросеть прямого распространения?
Deep LearningУровень: ПрактикаNeural networks
Как работает полносвязная нейросеть прямого распространения?
Подсказки
- Проследите данные и градиенты через модель, отмечая размерности.
- Разделите поведение при обучении и инференсе; найдите допущение, без которого ответ неверен.
Ответ
Каждый нейрон получает входы от всех элементов предыдущего слоя. Последовательность слоёв преобразует исходный вектор признаков в итоговый прогноз. Полная связность даёт много обучаемых параметров и вычислений, поэтому обучение крупной сети может быть дорогим.
Источник и лицензия: Alexey Grigorev & contributors — Data Science Interviews · CC-BY-4.0 · перевод: Quantoros