Решение задач «К ближайших соседей»,
Теория принятия решений в Екатеринбурге

Цель Решить задачу распознавания образов с помощью алгоритма k ближайших соседей. Требования к исходным данным 1. В материале обучения задачи два образа 2. Выполняется гипотеза компактности объектов в каждом образе 3. Число косвенных признаков – 2 4. Все свойства измерены в арифметической шкале 5. Для определения меры близости между объектами материала обучения введена метрика 6. Определены веса wi, задающие вклад i-го соседа в классификацию 7. Общее число объектов материала обучения 50, в материале экзамена – 4 объекта 8. Объекты материала обучения и материала экзамена должны быть нанесены на диаграмму рассеивания. Этапы реализации 1. Строим исходную ТОС и отображаем объекты в виде точек на диаграмме. (Исходные данные можно взять из задания №5) 2. Выбираем количество ближайших соседей k=5 и определяем веса wi, задающие вклад i-го соседа в классификацию (одинаковые, линейно убывающие или нелинейно убывающие), например, wi = 1/i. 3. Для определения меры близости между объектами материала обучения вводим метрику 4. Для каждого объекта МЭ последовательно вычисляем расстояние до каждого объекта МО (метрику). 5. Далее для каждого объекта МЭ u располагаем объекты МО в порядке возрастания расстояний (xi;u — i-ый сосед объекта u) 6. В каждом отсортированной последовательности выбираем k первых объектов, по которым и будем выполнять распознавание. 7. Сравниваем результаты распознавания для различных значений весов. 8. По объектам МО вычисляем ошибки распознавания. Теоретический материал