Моделирование генной экспрессии

Вид весовых функций, использующий ядро был предложен в работах (Nadaraya, 1964) и (Watson, 1964):

где

- Ядерная оценка Розенблатта-Парзена для маргинальной плотности переменной x.

Параметр задающий размер весов называется шириной окна, оно определяет сколько соседних узлов будут браться во внимание при вычислении оценки в заданной точке.

Согласно эти формулам окончательная оценка значения сглаживаемой функции и ее первой производной:

Вообще говоря, можно брать различные ядерные функции, но как практика, так и теория ограничивают выбор. Так, например, ядерные функции, принимающие очень малые значения могут приводить к машинному нулю компьютера, поэтому разумно рассматривать такие ядерные функции, которые равны нулю вне некоторого фиксированного интервала (финитные).

Чаще всего из-за некоторых оптимальных свойств используется ядро Епанечникова:

где

Основным вопросом при построении ядерного сглаживания является выбор параметра ширины окна. Большое h означает меньшую дисперсию, но большее отклонение. При сужении окна данные воспроизводятся точно, однако, это может негативно сказываться при вычислении производной от сглаживания. Слишком сильное увеличение окна приводит к чрезмерному сглаживанию кривой. Более точно:

Для корректного вычисления значений первой производной сглаженной функции во всех точках интервала [ должно выполняться:

Идейно простой подход и хорошее быстродействие, безусловно, являются преимуществами ядерного сглаживания. Тонким местом в этом методе является выбор параметра ширины окна. При сглаживании данных на равномерной сетке выбрать ширину окна, исходя из специфики дынных, достаточно просто, в этом случае метод дает неплохие результаты. В случае же неравномерной сетки, достаточно часто встречающейся на практике, выбор окна является непростой задачей, осложняющей автоматизацию процесса. При выборе какого-то фиксированного параметра ширины окна результаты зачастую получаются неудовлетворительными, особенно явно это сказывается на производной сглаженного профиля. Порекомендовать этот метод можно только для работы с равномерной сеткой, однако в этом случае он показал себя немногим хуже сглаживающих сплайнов, при существенно меньшем времени работы