+
Добавил в программу частичное логарифмирование входного вектора.
Испытал сегодня на нескольких задачах. В некоторых случаях обучение ускорилось, в других - не изменилось.
Это работает следующим образом. Алгоритм смотрит на первые несколько десятков обучающих векторов и делает вывод, какие из членов векторов перед подачей на нейросеть полезно прологарифмировать.
Это полезно по 2-м причинам:
1. Один из членов вектора - большое число. Это приводит к долгому обучению, а долгое обучение вызывает "переобучение" сети.
2. Один из членов вектора - небольшое число, но и не слишком маленькое, доли единицы. И это число мало меняется для сигналов разных типов.
Логарифмирование такого числа расширяет диапазон, т.к. оно < 1.
+
Выложу доработанную программу на сайт в ближайшие дни.
Сейчас могу прислать exe-файл, по запросу.
+
Post #10
278
- 👍 3
- 👌 1