Для определения константы D находим среди точек i- го класса ближайшую к барицентру j- го класса. Подставляя координаты этой точки в уравнение гиперплоскости, получаем уравнение на D . Решив это уравнение, находим величину D 1. Используя ближайшую к барицентру i- го класса точку j- го класса, находим величину D 2. Искомая константа D находится как среднее арифметическое между D 1 и D 2. Для отнесения произвольного вектора к i- му или j- му классу достаточно подставить его значения в левую часть уравнения разделяющей гиперплоскости. Если значение левой части уравнения получается больше нуля, то вектор относится к j- му классу, в противном случае — к i- му.

Интерпретатор работает следующим образом: если для i- го класса все разделители этого класса с остальными классами выдали ответ i- ый класс, то окончательным ответом является i- ый класс. Если такого класса не нашлось, то ответ «не знаю». Ситуация, когда для двух различных классов все разделители подтвердили принадлежность к этому классу, невозможна, так как разделитель этих двух классов должен был отдать предпочтение одному из них.

Рассмотренный пример решения задачи с использованием нелокальной оценки позволяет выделить основные черты обучения с нелокальной оценкой:

1. Невозможность оценить решение одного примера.

2. Невозможность оценить правильность решения примера до окончания обучения.

3. Невозможность построения интерпретатора ответа до окончания обучения.

Этот пример является отчасти надуманным, поскольку его можно решить с использованием более простых локальных оценок. Ниже приведен пример задачи, которую невозможно решить с использованием локальных оценок.

Генератор случайных чисел

. Необходимо обучить сеть генерировать последовательность случайных чисел из диапазона [0,1]с заданными k первыми моментами. Напомним, что для выборки роль первого момента играет среднее значение, второго — средний квадрат, третьего — средний куб и так далее. Есть два пути решения этой задачи. Первый — используя стандартный генератор случайных чисел подготовить задачник и обучить по нему сеть. Этот путь плох тем, что такой генератор будет просто воспроизводить последовательность чисел, записанную в задачнике. Для получения такого результата можно просто хранить задачник.

Второй вариант — обучать сеть без задачника! Пусть нейросеть принимает один входной сигнал и выдает один выходной. При использовании сети выходной сигнал первого срабатывания сети (первое случайное число) будет служить входным сигналом для второго срабатывания сети и так далее.

Для построения оценки зададимся тремя наборами чисел: Mi — необходимое значение i- го момента, Li — длина последовательности, на которой i- ый момент сгенерированной последовательности должен не более чем на si отличаться от Mi . si — точность вычисления i- го момента.

Выборочная оценка совпадения i- го момента в сгенерированной последовательности на отрезке, начинающемся с j- го случайного числа, вычисляется по следующей формуле:

где αl — выходной сигнал, полученный на l- ом срабатывании сети. Для оценки точности совпадения i- го момента в сгенерированной последовательности на отрезке, начинающемся с j- го случайного числа, воспользуемся оценкой числа с допуском si :

Таким образом, при обучении сети генерации последовательности из N случайных чисел оценку можно записать в следующем виде:

Производная оценки по выходному сигналу l- го срабатывания сети можно записать в следующем виде:

Используя эту оценку можно обучать сеть генерировать случайные числа. Удобство этого подхода к решению задачи обучения генератора случайных чисел в том, что можно достаточно часто менять инициирующий сеть входной сигнал, что позволит сети генерировать не одну, а много различных последовательностей, обладающих всеми необходимыми свойствами.

При использовании предложенной оценки нет никаких гарантий того, что в генерируемой сетью последовательности не появятся сильно скоррелированные подпоследовательности. Для удаления корреляций можно модифицировать оценку так, чтобы она возрастала при появлении корреляций. Рассмотрим две подпоследовательности длинны L , первая из которых начинается с αi , а другая с αi+k . Коэффициент корреляции этих последовательностей записывается в виде: