Тест самоперевірки

Нейрон і перцептрон

Обери відповідь — і одразу побачиш пояснення. Помилитись тут корисніше, ніж на іспиті.

← до лекції
Відповіді0 / 8   правильних: 0
Питання 1 / 8

Один нейрон зі сигмоїдою на виході — що це за модель?

Чому так. ŷ = σ(w·x + b) — це дослівно формула логістичної регресії. Те, що ми звали коефіцієнтами й вільним членом, тут зветься вагами й зсувом. Біологічна аналогія до вибору сигмоїди стосунку не має: подібність між штучним і живим нейроном поверхнева, і жоден висновок теми з неї не випливає.
Питання 2 / 8

Чим правило навчання перцептрона відрізняється від градієнтного спуску з теми 16?

Чому так. У градієнтного спуску є число, яке спадає від кроку до кроку, і є поверхня, якою модель сповзає. У правила Розенблата немає ані того, ані іншого: воно просто питає «у який бік посунути ваги, щоб цей приклад перестав бути помилкою». Похідну сходинки взяти взагалі не можна — вона дорівнює нулю скрізь, де визначена, і саме тому перцептрон довелось навчати окремим правилом.
Питання 3 / 8

Нейрон відповів на черговому прикладі правильно. Що робить правило Розенблата?

Чому так. Правильна відповідь не дає правилу жодного сигналу — оновлення відбувається виключно на помилках. Це добре видно в інтерактиві 2: на правильних прикладах пряма стоїть нерухомо. Саме тому критерій зупинки такий простий: епоха без жодного виправлення означає, що ваги вже не зміняться ніколи.
Питання 4 / 8

Що саме обіцяє теорема збіжності перцептрона?

Чому так. Слово «якщо» тут головне. На нероздільних даних теорема не обіцяє нічого, і правило справді не зупиняється. Швидкість навчання на факт збіжності не впливає взагалі (вона лише масштабує ваги), а найкращу пряму — ту, у якої запас найбільший, — шукає вже метод опорних векторів, а не перцептрон: цей зупиняється на першій-ліпшій.
Питання 5 / 8

На повній дошці приманки бувають і дешевші, і дорожчі за довідкову ціну, тож чесні оголошення опиняються між двома групами шахрайських. Що зробить правило Розенблата на таких даних?

Чому так. У практиці правило зробило 11 951 виправлення за 60 епох, і мінімум за епоху не опустився нижче 186. Помилки воно не викидає й «найменшу» пряму не шукає — критерію якості серед прямих у нього немає взагалі. Логістична регресія на тих самих даних зупиняється за 17 ітерацій: у неї є функція втрат, яку є на чому мінімізувати.
Питання 6 / 8

У інтерактиві 3 повний перебір 180 360 прямих дає для XOR максимум 3 правильні точки з 4. Що це число означає?

Чому так. Три з чотирьох — це стеля, яку дає найпримітивніша можлива модель, що взагалі не дивиться на входи. Тобто найкраща пряма для XOR не корисніша за константу. І це не питання дрібності перебору: доведення в лекції показує, що потрібних w₁, w₂ і b не існує в принципі. Нейромережі XOR розвʼязують легко — але не одним нейроном, а трьома.
Питання 7 / 8

Три нейрони зі сходинкою дають XOR, а один — ні. Що саме змінилось у конструкції?

Чому так. Усі три нейрони однакові: зважена сума й той самий поріг. Але множина форм, які здатна описати конструкція, розширилась із півплощини до смуги — а смуга під доведення з розділу 7 уже не підпадає. Ознаки й дані ті самі, навчання тут узагалі немає: ваги виписані руками, бо правило Розенблата на прихований шар не поширюється.
Питання 8 / 8

Чому перцептрон Розенблата сьогодні майже не беруть у робочі проєкти?

Чому так. Швидкість і перенавчання тут ні до чого: у моделі всього кілька параметрів, і працює вона миттєво. У scikit-learn клас Perceptron нікуди не подівся. Проблема саме в трьох названих речах, і кожна з них вирішальна: реальні дані роздільними бувають рідко, без ймовірностей неможливо ані побудувати ROC-криву, ані відсортувати оголошення за підозрілістю, а без здатності навчати приховані шари з перцептрона не виростає мережа.