Здравствуйте! Стоит задача сжать временной ряд, преобразовать его в в данные меньшей размерности. Скажем есть 32 входа, надо получить 8 или 16. Чтобы отброшенные данные содержали шум.

Я пробовал вейвлеты для этой цели, после преобразования беру набор первых чисел, как показывает опыт, они несут основную информацию о длинных трендах. А последние числа в массиве как правило маленькой величины и несут в себе шум.

Но вейвлеты меня не очень устраивают, в частности теряется точность на концах временного ряда, а задача стоит в прогнозировании вперёд, поэтому последние данные особенно важны.

Есть другой вариант, раскладывать ряд по собственным компонентам, SSA методом (гусеница), пока не пробовал. Но тут собственные вектора берутся непосредственно из участка ряда.

В идеале хочется алгоритм data mining, который на большой истории данных определит основной набор главных векторов, а потом любой кусочек ряда будет раскладывать по этим главным компонентам.

Или какие есть стандартные способы?
Заранее спасибо.

Ответить

Здравствуйте!

Есть больше миллиона примеров данных для обучения нейросети. Правда часть из этих данных очень похожи друг на друга. Возникает вопрос, как лучше обучить сеть чтобы она показывала наилучшие результаты при прогнозе вне выборки.

Мой текущий алгоритм обучает INCREMENTAL, по одному примеру, после обучения всей эпохи я уменьшаю Learning Rate. Процесс обучения продолжается пока learing rate не становится очень маленьким или не начинает расти ошибка на CV множестве. Это даёт неплохой результат, но хочется еще лучше.

После завершения обучения INCREMENTAL я продолжаю обучение с помощью алгоритма iRPROP, он быстро сходится, а потом ошибка начинает расти. iRPROP алгоритм не использую изначально, потому обученная им сетка имеет довольно высокие веса.

Вопросы:
1) Есть ли зависимость именно Обобщения от INCREMENTAL Learning Rate, быть может я использую в конечном итоге очень малый Rate, а оптимальный learning rate фиксирован, скажем 0.1 или 0.01?

2) Какие есть варианты cost function выходного слоя для задачи регрессии? Для задачи классификации Виктор использует некую функцию на основе кросс-энтропии. А что насчет регрессии?

Я правильно понимаю, что cost function мы можем задавать только для выходного слоя?

По-умолчанию это MSE, я пробовал еще меньшую степень, скажем ошибка выходного слоя рассчитывается как
error = predicted - real
if(error > 0)
error = 1.5 * error ^ 0.5
else
error = -1.5 * (-error) ^ 0.5
вроде результат улучшается. Еще варианты?

3) Топология сети, сейчас это обычный перспептон 32:16:1
миллион входных примеров, выходы расположены гауссово примерно от -1 до +1, с выбросами далеко за пределы, скажем плюс 3.

4) До каких пор обучать, мне не нравится CV множество для проверки, да и часть данных для обучения получается теряются

Заранее спасибо.

Ответить

В процессе работы с программой встала проблема какого-то иного, нежели с помощью Excel, результата расчета корреляции. Обратились к "Руководству анлитика", там есть пример для расчета корреляции. На его данных провели тестирование. Результат: при расчете корреляции в Excel результат с примером сходится только по 2 и 3 товарам, по товару 4 - расхождения. При загрузке данных примера в Deductor, результат отличается от результатов, заявленных а примере по всем товарам. Отсюда вопрос: почему возникает подобная разница???

Ответить

Добрый день!
Подскажите, пожалуйста, в каком направлении двигаться при решении следующей задачи:
- есть дискретный временной ряд, описывающий некоторый технологический процесс (показания датчика давления);
- есть карта технологических событий (словесное описание событий на объекте, происходящих в определенный момент времени и влияющих на показания датчика давления.
Задача заключается в том, чтобы:
1) автоматически разбить ряд на сегменты
2) сегменты объединить в кластеры
3) каждому кластеру приписать тип того или иного технологического события
4) построить НС для идентификации события, опираясь на временной ряда.

В общих чертах решение пп.2-4 более-менее ясно, а вот с задачей разбиения ряда на сегменты возникли сложности. На текущий момент, проанализировав литературу, думаю о следующих подходах:
1) сегментация на основе АР-модели (авторегрессионное среднее - изменение основных характеристик ряда) см. http://geo.web.ru/Mirrors/ivs/publication/volc_day/2005/art26.pdf
2) теория регулярности сигнала - анализ показателя Гёльдера http://iai.dn.ua/public/JournalAI.../42-52_Vostrov_Polyakova_Lyubchenko.pdf и зарубежные публикации Малла
3) карты Кохонена - Дебок Г., Кохонен Т. Анализ финансовых данных с помощью самоорганизующихся карт.
По первым двум пунктам все достаточно ясно, по третьему - слабо представляю именно алгоритм проведения такой сегментации.

Прошу поделится соображениями по данному вопросу и посоветовать, в какую сторону смотреть.
Спасибо

Ответить

у меня есть набор данных:
время;аналитика;сумма

как мне выявить аномальные суммы, допустим которые отклоняются от средней более 30%?

Ответить