Двісті шістдесят чотири поняття курсу — українською та англійською,
кожне на одне-два речення й з посиланням на тему, де його вводять. Термінологія
складалась по ходу сорока лекцій; тут вона зведена докупи й узгоджена.
Покажчик
Курс писався сорока темами підряд, і термін уперше зʼявлявся там, де в ньому
виникала потреба. Через це одне й те саме слово інколи вводиться в темі 04, а по-справжньому
знадобиться аж у темі 36 — і згадати, що воно означало, буває ніде. Ця сторінка закриває
саме цю дірку: тут зібрано всі поняття, які курс справді пояснює, а не згадує мимохідь.
Заголовок статті — українською, якщо український відповідник усталений
(ознака, таргет, перенавчання), і англійською там, де українського немає або він
гірший за оригінал (dropout, learning rate). Другий варіант завжди стоїть поруч,
тож знайти термін можна з будь-якого боку.
Означення — одне-два речення без математики. Де без формули не обійтися,
вона наведена в найпростішому вигляді, і кожен її символ названо словами.
Рядок унизу статті веде на тему, у якій поняття вводиться. Бурштинова
врізка — попередження про типову плутанину.
ЛітераА
Агент · agent
Той, хто ухвалює рішення й вчиться на їхніх наслідках. Агент бачить стан — опис
ситуації, у якій він зараз, — обирає дію, а середовище у відповідь повертає число
(винагороду) і новий стан.
Два слова поруч. Ланцюжок таких переходів від початку до кінця —
епізод: партія в шахи, поїздка робота від дверей до дверей, сесія користувача.
А вся конструкція «стани, дії, винагороди, переходи» зветься марковським процесом
ухвалення рішень: «марковський» означає, що стан містить усе потрібне для рішення й
минуле вже не додає інформації.
Активація, функція активації · activation function
Функція, крізь яку нейрон пропускає зважену суму своїх входів, перш ніж віддати
результат далі. Без неї будь-яка кількість шарів згортається в один — тому саме
активація, а не глибина, робить мережу здатною описувати криві межі.
Те, що зазвичай мають на увазі, кажучи «k-means»: два кроки по колу — приписати
кожен обʼєкт до найближчого центра, потім пересунути кожен центр у середнє своїх
обʼєктів. Повторювати, доки приписки не перестануть мінятись.
Чому важливо розрізняти назви. «k-means» — це задача
(знайти розбиття з найменшою [[Інерція|інерцією]]), а алгоритм Ллойда — лише один
зі способів її розвʼязувати, і то наближено. Точний розвʼязок задачі знайти важко,
тому Ллойд збігається до локального мінімуму й залежить від старту — звідси
[[k-means++]] і кілька перезапусків.
Ручний розбір сотні випадків, на яких модель помилилась: дивишся на самі рядки даних,
записуєш здогад про причину, групуєш здогади за причиною й рахуєш, скільки кожна група
коштує. Метрика каже, що модель слабка; аналіз помилок каже, у якому саме місці.
Групи впорядковують за ціною, а не за розміром. Двадцять пропущених
шахраїв дорожчі за тридцять хибних тривог. У темі 22 половину всіх втрат дала одна
група — ноутбуки, ціну яких модель порівнювала з медіаною по всій дошці замість медіани
їхньої категорії; ані метрика, ані важливість ознак цього не показували.
Обʼєкт, не схожий на решту вибірки. Слово покриває три різні речі — помилку в даних,
рідкісну справжню подію й навмисне зловживання, — і від того, яка з них тобі потрібна,
залежить і метод, і поріг, і ціна помилки.
Плутанина. «Дивне» й «шкідливе» — не одне й те саме. На дошці
оголошень курсу найаномальніші рядки виявились чесними колекційними телефонами, а
акуратно складене шахрайське оголошення не потрапило в жоден список.
Набір моделей, чиї відповіді зводять в одну — голосуванням більшості для класів або
середнім для чисел. Виграш дає не кількість моделей, а їхня різноманітність: сто
однакових копій дадуть рівно те саме, що одна.
Чому це працює. Теорема Кондорсе: якщо кожен учасник правий частіше
ніж у половині випадків і помиляється незалежно від інших, точність більшості росте з
кількістю учасників. Якщо ж кожен правий рідше ніж у половині — більшість
помиляється дедалі впевненіше.
Імовірність гіпотези після того, як ми побачили дані. «Оголошення
шахрайське, якщо в ньому є слово «терміново»» — це апостеріорна ймовірність:
вона враховує і те, що було відомо до, і саме свідчення.
Це і є відповідь моделі. Теорема Баєса — рецепт, як із
апріорної ймовірності та правдоподібності зробити апостеріорну. Класифікатор
рахує її для кожного класу й обирає найбільшу.
Імовірність гіпотези до того, як ми подивилися на конкретний випадок.
Якщо шахрайських оголошень на дошці 16 %, то 0.16 і є апріорна ймовірність
шахрайства для оголошення, про яке ми ще нічого не знаємо.
Чому вона вирішує більше, ніж здається. Рідкісна хвороба
лишається малоймовірною навіть після позитивного тесту: мала апріорна ймовірність
перебиває сильне свідчення. Це найчастіше джерело хибної інтуїції в
класифікації.
Штучне збільшення навчальної вибірки перетвореннями, які не міняють відповіді:
той самий рядок трохи зашумлений, те саме зображення відзеркалене чи повернуте.
Модель бачить більше різних прикладів, не отримуючи жодного нового.
Це регуляризація, а не хитрість із даними. Вона забороняє
моделі спиратися на те, що від перетворення міняється, — тобто звужує клас правил,
які модель здатна вивчити. ⚠️ Перетворення мусить зберігати мітку: віддзеркалена
цифра 2 — усе ще двійка, а віддзеркалена 6 стає схожою на 9.
Найпростіша задача навчання з підкріпленням: кілька важелів, кожен видає
випадкову винагороду з невідомим середнім, і треба зібрати якнайбільше за обмежену
кількість спроб.
Чому з неї починають. Тут немає станів і немає наслідків:
вибір не міняє світу, тож лишається чистий компроміс
[[Дослідження і використання|між дослідженням і використанням]]. Усе, що складніше,
додає до цієї задачі стани — але сам компроміс нікуди не зникає.
Навмисно дурна модель, яка не дивиться на ознаки взагалі: для класифікації — «завжди
називай найчастіший клас», для регресії — «завжди називай середнє». Потрібна, щоб було
з чим порівняти будь-яке отримане число.
Правило звіту. «Точність 94 %» не читається без другої половини —
«а базова лінія дає 84 %». Якщо класів дуже нерівно, високий відсоток означає лише
те, що один клас великий.
Корисно мати три, бо питання різні. Константа відповідає на питання
«чи модель узагалі щось вивчила»; правило з двох умов, написане руками за півгодини, —
«чи варто було вчити модель»; людина, яка робить ту саму роботу очима, — «чи можна вже
когось замінити». Разом зі стелею задачі вони дають шкалу,
без якої одне число нічого не означає.
Частка позитивних у групі — скільки насправді шахрайських оголошень серед усіх
оголошень цієї групи. Це властивість світу й даних, а не моделі.
Через неї означення справедливості й несумісні. Якщо базові
ставки двох груп різні, [[Equality of Odds|рівні шанси]] і рівна
[[PPV|прогностична цінність]] одночасно недосяжні — це теорема, а не брак
старання. Тому вибирати доводиться одне означення, і вибір робить людина, а не
дані.
Навчити багато однакових за типом моделей, кожну на своїй випадковій підвибірці з
поверненням, і усереднити їхні відповіді. Прийом бʼє по дисперсії:
окремі моделі гуляють від вибірки до вибірки, а їхнє середнє — уже майже ні.
Правопис. Канонічна назва одна — беггінг, із двома «г», як
подвоєння в оригіналі (bagging); так пишуть теми 17, 23 і 24. Написання «бегінг»
трапляється як варіант у сторонніх джерелах — це те саме слово.
Ансамбль-конвеєр: моделі будуються по черзі, і кожна наступна вчиться не на початковій
цілі, а на тому, що недорахували попередні. На відміну від беггінгу, бʼє по
зміщенню й тому бере навмисно слабких учнів
(weak learners) — дерева на три-вісім питань; крайній випадок, дерево з одним питанням,
зветься пеньком (stump).
Головна відмінність від лісу. У лісі більше дерев ніколи не шкодить.
У бустингу — шкодить: коли закономірність вибрана, наступні дерева вчаться на самому
шумі, тому потрібна рання зупинка.
Витягування з наявних n обʼєктів рівно n штук із поверненням:
хтось потрапляє двічі, хтось не потрапляє взагалі. Так з однієї вибірки роблять багато
різних; у кожну потрапляє приблизно 63 % унікальних обʼєктів.
Числа, які модель підбирає під час навчання; кожна вага показує, наскільки й у який бік
своя ознака зсуває відповідь. Знак важливіший за величину: додатна вага означає «більше
цієї ознаки — більше підстав сказати так».
Симптом перенавчання. Величезні ваги протилежних знаків, які майже
гасять одна одну, — універсальний почерк перенавченої моделі: відповідь стає різницею
двох гігантських чисел і тому нестійкою.
Число, яким модель оцінює внесок кожної ознаки. У деревах і лісах найпоширеніша
оцінка — [[MDI]]: сума зменшень забрудненості на всіх розрізах за цією ознакою,
зважена кількістю обʼєктів.
Три пастки, через які її постійно читають неправильно. MDI
завищує ознаки з багатьма значеннями — у них більше кандидатів на поріг.
Дублікати ознаки ділять її важливість між собою, і кожна половина може впасти
нижче порога відсіву. Та сама пара близнюків ламає й
[[Перестановкова важливість|перестановкову]], але навпаки: там жодна з них не
виглядає важливою взагалі. І головне: важливість каже, чим модель скористалась, а
не що впливає на явище. Чесніша альтернатива — [[Перестановкова важливість]].
Частина даних, на якій ти обираєш між моделями й гіперпараметрами. Її дивляться
десятки й сотні разів, тому її оцінка неминуче стає завищеною — і це нормально: її
робота ранжувати варіанти, а не називати підсумкове число.
Випадок, коли дві ознаки разом означають більше, ніж кожна окремо. Площа сама
по собі мало каже про ціну, кількість кімнат теж — а їхнє відношення «метрів на
кімнату» відрізняє тісну квартиру від просторої.
Чому це не зайве. Лінійна модель складає внески ознак і
сама такого добутку не побудує — його треба дати їй готовим. Дерева знаходять
взаємодії самі, тому для них ручні добутки потрібні рідше.
Протилежність згасанню: множники в ланцюжку більші за одиницю, тож градієнт росте
з кожним шаром і в глибині стає величезним. Крок оптимізатора викидає ваги в
нікуди, і втрата перетворюється на NaN.
Лікується простіше за згасання. Досить
[[Обрізання градієнта|обрізати градієнт]] за довжиною — і крок лишається
керованим. Згасання так не полагодиш: там нема чого обрізати, там нічого не
доходить.
Число, яке рахують із квадратної таблиці чисел і яке відповідає на одне питання:
чи стискає це перетворення простір у щось пласке. Для таблиці 2×2 з рядками
(a, b) і (c, d) це
a·d − b·c.
Навіщо він у PCA. Умова «визначник дорівнює нулю» — це
інший спосіб сказати «два рівняння системи насправді одне й те саме, тож розвʼязків
безліч». Саме звідти беруться власні числа: шукають ті λ, за яких система стає
виродженою.
Значення, помітно відірване від решти. Найпоширеніший спосіб їх позначити — правило
міжквартильного розмаху; ще один — сильно скошений розподіл,
який виправляють логарифмом замість видалення рядків.
Плутанина. Викид — не синонім помилки. Правило бачить лише те, що число
велике; чи це одрук, чи справжнє рідкісне явище, розрізняє людина, яка дивиться на рядок
цілком.
Число, яким середовище оцінює зроблену агентом дію. Мета агента — не максимізувати його
на кожному кроці окремо, а зробити якнайбільшою суму винагород за весь епізод; саме в
цій різниці й полягає вся складність.
Пастка. Агент максимізує рівно те число, яке ви написали, а не те, що
мали на увазі. Човен, якому нарахували очки за проміжні бонуси, навчився крутитись на
місці замість того, щоб фінішувати.
Ансамбль дерев рішень, у якому кожне дерево навчене на своїй випадковій підвибірці
з поверненням, а в кожному вузлі розріз шукається лише серед випадкової частини
ознак. Відповідь — голосування дерев для класифікації або їхнє середнє для
регресії.
Чому трюків саме два. Одного беггінгу мало: дерева на схожих
підвибірках вибирають ту саму сильну ознаку й помиляються разом. Випадковий вибір
ознак у вузлі змушує їх дивитись у різні боки — і саме це знижує кореляцію між ними.
Усереднення бʼє по дисперсії лише настільки, наскільки дерева
[[Декореляція|декорельовані]].
Ситуація, коли до моделі під час навчання дісталась інформація, якої в момент реального
прогнозу не існує: колонка-наслідок, підглянуте майбутнє або статистика, порахована
разом із тестовими рядками.
Симптом один. Витік не дає ні помилки, ні попередження — він
покращує метрику. Тому й діє правило: занадто добре — це помилка, поки не
доведено протилежне.
Вибір підмножини наявних ознак — решту просто викидають. Ознаки, що лишились,
зберігають свої назви й одиниці, тому модель залишається зрозумілою.
Не плутати зі стисненням. Метод головних компонент теж
зменшує кількість колонок, але створює нові — суміші старих, у яких немає
ані назви, ані одиниць. Відбір зберігає інтерпретованість, PCA її втрачає; це
різні інструменти, а не два способи зробити те саме.
Повернення до попередньої версії моделі, коли нова показала себе гірше. Щоб це
було можливо, стару версію тримають готовою до запуску, а не в архіві.
Відкат потрібен саме тому, що якість видно із запізненням.
Мітки приходять через тижні, тож момент, коли стане ясно, що нова модель гірша,
настане вже після того, як вона попрацює. Правило пишуть наперед: який показник, за
який період і на скільки має просісти. Без такого правила відкат перетворюється на
суперечку.
Єдиний коректний спосіб прочитати коефіцієнт логістичної регресії: збільшення ознаки на
одиницю множить шанси позитивного результату на сталу величину. Самі шанси —
це відношення ймовірності події до ймовірності її відсутності.
Плутанина. Множник на шанси сталий, а зміна ймовірності — ні. Фраза
«ознака додає 5 % імовірності» для логістичної регресії просто некоректна.
Відстань від точки до центра хмари, яка враховує форму хмари: уздовж
напрямку, де дані й так розкидані широко, те саме віддалення важить менше, ніж
упоперек нього.
Навіщо вона в пошуку аномалій. За кожною окремою колонкою
рядок може бути звичайним, а дивним — лише його поєднання: телефон 2024 року
за ціною 2019-го. Звичайна [[Евклідова відстань]] цього не бачить, бо не знає, що
ціна й рік ходять разом; Махаланобіс знає — він ділить на розкид уздовж кожного
напрямку через коваріаційну матрицю.
Доданок моделі, який не множиться на жодну ознаку: значення прогнозу, коли всі ознаки
дорівнюють нулю. Потрібен, щоб пряма могла зсуватися вгору-вниз, а не була приречена
проходити через початок координат.
Три назви одного числа. У лінійній та логістичній регресії курс
зве його вільним членом, у нейроні — зсувом (bias). Це
буквально та сама величина, просто в різних розділах вона отримала різні імена.
Дві петлі одна в одній: внутрішня вибирає налаштування, зовнішня
міряє те, що вибрала внутрішня. Кожен зовнішній фолд отримує свою внутрішню
петлю й свої власні гіперпараметри.
Навіщо стільки роботи. Якщо міряти на тій самій вибірці, на
якій вибирали, оцінка систематично завищена — див. [[Прокляття переможця]]. Вкладена
схема прибирає це, бо зовнішній фолд жодного разу не брав участі у виборі. ⚠️ Ціна
висока: k×m навчань замість k, і в результаті ти дістаєш **чесну оцінку процедури**,
а не одну готову модель.
Множник, у який перетворення розтягує свій власний вектор. Якщо напрямок
розтягується вчетверо — його власне число дорівнює 4.
Що воно означає в PCA. Власне число коваріаційної матриці —
це дисперсія вздовж відповідного напрямку. Тому компоненти впорядковують
саме за власними числами: найбільше з них позначає напрямок найбільшого розкиду.
⚠️ У літературі трапляється й назва «власне значення» — це той самий термін; курс
послідовно вживає «власне число». Див. [[Власний вектор]].
Напрямок, який перетворення не повертає вбік, а лише розтягує або стискає.
Число, що показує, у скільки разів, зветься власним числом.
Навіщо це в PCA. Серед усіх напрямків шукають той, уздовж
якого дані розкидані найсильніше. Виявляється, це рівно власний вектор
коваріаційної матриці з найбільшим власним числом — тому задача про «найширший
напрямок» зводиться до вже розвʼязаної задачі лінійної алгебри.
Дві частини дерева. У вузлі стоїть питання «ознака не більша за поріг» і
від нього йдуть дві гілки. Листок питань не ставить — у ньому лежить готова
відповідь: мітка більшості для класифікації або середнє для регресії.
У листку більше, ніж одна відповідь. Разом із міткою там
лежить і склад обʼєктів, що в нього потрапили, — саме з нього беруться ймовірності,
які повертає predict_proba. Листок із 50 обʼєктів, де 45
одного класу, і листок із двох, де обидва одного класу, дають однакову мітку й дуже
різну впевненість.
Середнє, яке рахують не по самих числах, а по обернених до них: складають
1/a і 1/b, ділять навпіл і повертаються
назад. Для двох чисел це 2ab ÷ (a + b).
Навіщо саме воно. Гармонійне середнє тягнеться до
меншого з чисел, тому пара 0,9 і 0,1 дає 0,18, а не 0,5. Саме це й потрібно
метриці, яка мусить карати за провал в одному з двох показників — на цьому
побудований F1.
Випадок, коли розкид помилок неоднаковий у різних частинах даних: дешеві
квартири модель передбачає з точністю до тисячі, дорогі — до десятків тисяч.
Протилежне, рівний розкид, зветься гомоскедастичністю.
Чим це шкодить. Самі коефіцієнти лишаються приблизно
правильними, а от оцінки їхньої точності — ні: довірчі інтервали виходять
завузькі, і різниця, якої немає, виглядає значущою. Видно це на графіку залишків:
хмара розширюється лійкою замість того, щоб іти смугою.
Число або вибір, який людина задає до навчання й який керує тим, які параметри
навчання знайде: кількість сусідів, глибина дерева, сила штрафу. Перевірка проста —
чи змінилося б це число, якби алгоритмові дали інші дані.
Чому їх не вивчити разом із вагами. Гіперпараметр майже завжди керує
складністю, а помилка на навчальних даних монотонно спадає зі складністю — тому такий
підбір завжди впирався б у найскладніший варіант.
Голосування: жорстке і мʼяке · hard voting, soft voting
Два способи звести відповіді ансамблю в одну. Жорстке рахує голоси за
мітками: перемагає клас, який назвала більшість. Мʼяке усереднює ймовірності
й бере клас із найбільшим середнім.
Мʼяке зазвичай точніше. Воно розрізняє «упевнено так» і «ледь
так», а жорстке обидва випадки зводить до одного голосу. Але воно вимагає, щоб моделі
видавали осмислені ймовірності — тобто були [[Калібрування|відкалібровані]].
Не нове поняття, а просто список усіх похідних одразу — по одній на кожен параметр.
Кожне число відповідає на побутове питання: якщо цей параметр трохи збільшити, помилка
зросте чи впаде і наскільки різко.
Спосіб навчати модель: порахувати градієнт, зсунути кожен параметр у бік,
протилежний до його похідної, повторити. Довжину кроку задає окреме число —
learning rate.
Не плутати зі зворотним поширенням. Це дві різні речі, які постійно
змішують. Зворотне поширення лише
рахує градієнт; градієнтний спуск бере готовий градієнт і робить крок.
Замінити можна кожне окремо: спуск на Adam, а backprop — на чисельну похідну.
Точка, яка сама сусідів не назбирала, але потрапила в окіл
[[Ядерна точка|ядерної]]. До кластера її беруть, а розростатися далі через неї
не можна — ланцюжок на ній обривається.
Звідси єдина неоднозначність DBSCAN. Гранична точка може
лежати в околі ядерних двох різних кластерів, і тоді її приписують до того,
хто дійшов першим, — тобто результат залежить від порядку обходу. Ядерні точки й
шум такої залежності не мають.
Запис обчислення у вигляді схеми: вузли — операції, ребра — числа, що течуть між
ними. Прохід уперед рахує значення, прохід назад рахує похідні по тих самих
ребрах, тільки в зворотному напрямку.
Чому це не деталь реалізації. Саме граф дозволяє
[[Зворотне поширення помилки|зворотному поширенню]] бути одним алгоритмом для
будь-якої архітектури: не треба виводити формулу для кожної мережі окремо,
достатньо знати похідну кожної операції.
Розбиття на навчальну й тестову частини не по рядках, а по групах рядків,
які насправді описують той самий обʼєкт: кілька знімків одного пацієнта, кілька
оголошень одного продавця, кілька рядків одного дня.
Чому звичайне розбиття тут бреше. Якщо два рядки — це той
самий обʼєкт, і один потрапив у навчання, а другий у тест, модель не передбачає, а
впізнає. Оцінка виходить завищеною, і жодна перевірка цього не показує: формально
рядки різні.
Навмисне зменшення схожості між моделями ансамблю. Що менше вони помиляються
на тих самих обʼєктах, то сильніше усереднення гасить їхній розкид.
Чому це стеля, а не важіль без меж. Дисперсія середнього
з M моделей дорівнює ρσ² + (1 − ρ)σ² ÷ M. Другий доданок
кількістю дерев зганяється в нуль, а перший — ні: він залежить лише від кореляції ρ.
Тому після якоїсь кількості дерев додавати нові марно, і єдиний спосіб опустити
стелю — зробити дерева різнішими.
Означення справедливості, яке вимагає, щоб частка позначених була
однаковою в обох групах: якщо модель позначає 20 % оголошень групи A, то й у групі
B має позначати 20 %.
Чим відрізняється від рівних шансів. Демографічний паритет
дивиться лише на рішення й не питає, чи вони правильні; [[Equality of Odds]]
порівнює частки помилок усередині справжніх класів. Якщо
[[Базова ставка|базові ставки]] груп різні, ці дві вимоги суперечать одна одній: щоб
зрівняти частки позначених, доведеться свідомо помилятись у котрійсь групі
частіше.
Дерево, у якому видно всю історію злиття: спершу кожен обʼєкт сам по собі, далі
найближчі пари зростаються в групи, групи — у більші, і так до однієї. Висота
перемички показує, на якій відстані сталося злиття.
Кількість груп обирають після, а не до. Достатньо провести
горизонтальну лінію на потрібній висоті: скільки гілок вона перетне, стільки й
кластерів. Це головна перевага ієрархічної кластеризації над
[[Кластеризація k-means|k-means]], якому k треба назвати наперед.
Модель із послідовності питань виду «ознака не більша за поріг». Кожне питання ріже
простір ознак на дві частини — майже ніколи не рівні — лінією, перпендикулярною до осі, тож готова модель — це набір
прямокутних плиток, у кожній з яких відповідь стала.
Головна вада. Дерево нестабільне за побудовою: два майже рівноцінні
розрізи в корені відрізняються в третьому знаку, а виграє один — і вся структура під ним
будується заново. Саме звідси й виріс беггінг.
Ситуація, коли один клас трапляється значно рідше за інший: шахрайство, рідкісна хвороба,
відмова обладнання. Чим рідкісніший позитивний клас, тим більше
accuracy міряє розмір більшості замість якості моделі.
Знецінення майбутніх винагород: винагорода через кілька кроків входить у суму з меншою
вагою, ніж негайна. Коефіцієнт дисконтування задає горизонт планування — маленький
робить агента короткозорим, великий далекоглядним, але й повільнішим у навчанні.
Одна з двох складових помилки: наскільки сильно навчена модель смикається від однієї
навчальної вибірки до іншої. Велика дисперсія означає, що модель вивчила не залежність,
а конкретні випадкові відхилення саме цих прикладів.
Це властивість процедури, а не однієї моделі. Побачити дисперсію на
одному прогоні неможливо: вона проявляється лише в порівнянні кількох навчань на різних
даних. Саме тому й існують бутстреп, беггінг і крос-валідація.
У курсі те саме поняття інколи називають розкидом; канонічною тут вважаємо
дисперсію — це усталений статистичний термін, і саме він утворює пару
зі зміщенням у розкладі помилки.
Картинка, якою перевіряють калібрування. Оцінки моделі
розкладають у кошики — від 0 до 0.2, від 0.2 до 0.4 і так далі, — і для кожного кошика
ставлять точку «що модель пообіцяла в середньому → що сталося насправді». Ідеально
калібрована модель лягає на діагональ.
Як читати відхилення. Точка нижче діагоналі — модель надто впевнена
(обіцяла більше, ніж сталося), вище — надто обережна. Це твердження про групу, а не про
окремий обʼєкт: у кошику «десь половина з вас шахрайські» модель не мусить вгадати жодне
конкретне оголошення.
Проміжок навколо виміряного числа, у якому за прийнятих припущень лежить
справжнє значення. Записується як «85 % ± 7 пунктів», тобто «десь між 78 % і 92 %».
Ширина залежить від розміру вибірки: що більше прикладів, то вужчий проміжок.
Що він не означає. Не «з імовірністю 95 % правда тут».
Означає інше: якщо повторити весь замір багато разів, приблизно 95 % таких проміжків
накриють справжнє значення. Практичний висновок той самий — на маленькій вибірці
різниця в кілька пунктів нічого не доводить.
Дослідження і використання · exploration / exploitation
Конфлікт без ідеального розвʼязку: обрати дію, найкращу за поточними оцінками
(використання), чи іншу, щоб уточнити її оцінку (дослідження). Кожен крок належить
чомусь одному — не можна одночасно збирати врожай і перевіряти сусіднє поле.
Найпростіша стратегія. ε-жадібна: з малою ймовірністю ε обираємо
випадкову дію, інакше найкращу. Нуль означає «застрягти на першій вдалій дії назавжди»,
одиниця — «мати найточніші оцінки й ніяк ними не користуватись».
Розподіл ознак поїхав, а звʼязок ознак із відповіддю лишився тим самим. За рік медіанна
ціна на дошці оголошень упала на 43 %, але правило «ціна набагато нижча за типову —
підозріло» не змінилось ні на йоту: зламався не звʼязок, а довідник, яким рахують
«типову».
Три дрейфи, які постійно плутають. Дрейф даних — поїхали ознаки;
дрейф концепції — поїхало те, що ознака означає;
дрейф міток — поїхала частка самих відповідей. Різниця не
словесна, а практична: перший часто лікується оновленням довідників без перенавчання,
другий — тільки свіжою розміткою, третій найчастіше виявляється багом у джерелі даних.
Ознаки виглядають так само, як і раніше, але змінилось те, що вони означають. Шахраї,
яких почали ловити за дешевою приманкою, переходять на ціну біля типової: значення ознаки
те саме, правильна відповідь — інша.
Найгірший із трьох. Жоден нагляд за розподілами ознак не зобовʼязаний
його побачити — PSI може лишатись низьким, поки модель розсипається.
Нову схему шахрайства модель не вигадає, її треба показати, тож лікується цей дрейф лише
свіжою розміткою — і рівно настільки швидко, наскільки швидко та розмітка приходить.
Змінилась частка самих відповідей — наприклад, шахраїв стало вдвічі більше через свято
чи через дірку в реєстрації. Найпростіший із трьох випадків: видно одним числом, щойно
зʼявляються мітки.
Спершу шукай баг, потім подію. Різкий стрибок частки класу набагато
частіше означає поламане джерело даних, ніж зміну в реальному світі. І навпаки: стабільна
частка міток нічого не доводить — у темі 31 вона цілий рік трималась між 15.3 % і 17.6 %,
поки модель розсипалась від двох інших дрейфів.
Звичайна відстань «по прямій»: різниці по кожній ознаці підносять до квадрата,
складають і беруть корінь. Для двох ознак це теорема Піфагора.
Не єдина можлива. Манхеттенська складає модулі різниць
замість квадратів — вона менш чутлива до одного великого розходження. ⚠️ Будь-яка
відстань вимагає спільного масштабу: колонка в гривнях затопить колонку в
роках просто тому, що її числа більші.
Передбачення за межами того діапазону, у якому модель бачила приклади. Модель
ціни, навчена на квартирах від 30 до 120 метрів, дає число і для 400 — але це
число нічим не підкріплене.
Моделі поводяться по-різному. Лінійна регресія продовжує
пряму скільки завгодно далеко — упевнено й безпідставно. kNN не вміє вийти за межі
побачених відповідей узагалі: за краєм даних він повторює середнє найближчих
сусідів, тож графік стає горизонтальним.
Міра безладу в наборі: нуль, коли всі обʼєкти одного класу, максимум — коли класи порівну.
Читається як середня кількість питань «так / ні», потрібних, щоб дізнатися клас навмання
взятого обʼєкта. Дерево обирає розріз, який зменшує її найсильніше.
Один повний прохід навчання по всіх прикладах вибірки. Десять епох означає, що
кожен приклад модель побачила десять разів.
Не плутати з кроком. Крок — це одне оновлення ваг. За одну
епоху кроків стільки, скільки партій: тисяча прикладів партіями по сто дають
десять кроків на епоху.
Спосіб будувати розвʼязок кроками, де на кожному кроці беруть те, що найкраще
прямо зараз, і назад не повертаються.
Чому дерева будують саме так. Знайти найкраще дерево цілком —
задача, для якої не існує швидкого способу; перебирати всі варіанти неможливо навіть
на маленьких таблицях. Тому розріз обирають найкращий на цьому кроці й живуть із
наслідками. Звідси й [[Нестабільність]]: два майже рівноцінні розрізи в корені
відрізняються в третьому знаку, а виграє один — і все дерево під ним інше.
Скільки винагороди агент недоотримав проти того, хто від початку знав найкращу
дію. Росте з кожним кроком, зробленим не туди; ідеальний агент має жаль нуль.
Чому міряють саме його. Сумарна винагорода залежить від
задачі й непорівнянна між ними; жаль порівнює агента з тим, що взагалі можливо, тому
його можна читати як «ціна незнання». ⚠️ Жадібна стратегія має малий жаль на початку
й великий у сумі: вона перестає шукати саме тоді, коли ще нічого не знає.
Журнал експериментів · experiment log, experiment tracking
Таблиця, у якій кожен рядок — одна зміна моделі, поміряний результат і вирок «прийнято»
або «відхилено». Правило нудне й нерушиме: одна зміна — один замір — один рядок.
Чому саме одна зміна за раз. Якщо за вечір ти додав ознаку, замінив
модель і підкрутив поріг, а метрика зросла з 0.43 до 0.61, — ти не знаєш, що спрацювало,
що відкочувати й що робити наступного разу. Три зміни дали одне число, а одне число несе
рівно один біт: «стало краще» або «стало гірше».
Міра безладу в купці обʼєктів: імовірність того, що два навмання взяті з неї
обʼєкти належать до різних класів. Для часток класів p₁ … p_k
це 1 − Σ pᵢ². Нуль означає, що купка чиста.
Різниця з ентропією. Обидві міряють те саме й майже завжди
обирають той самий розріз; Джині рахується без логарифма, тому трохи швидша, і саме
вона стоїть за замовчуванням у scikit-learn. На неї ж спирається [[MDI]].
Різниця між справжнім значенням і прогнозом моделі. Знак має сенс: мінус означає, що
модель переоцінила обʼєкт, плюс — що недооцінила. У бустингу залишок стає цільовою
величиною для наступного дерева.
Час між прогнозом і моментом, коли стає відома правильна відповідь. Оголошення
позначили підозрілим сьогодні, а чи справді воно шахрайське, зʼясується за два
місяці — або не зʼясується ніколи.
Головний наслідок для моніторингу. Якість, яку ти бачиш
сьогодні, — це якість позаминулого місяця. Тому за метрикою модель не встережеш, і
поруч тримають показники, яким мітки не потрібні: [[PSI]] і
[[KS-тест|критерій Колмогорова–Смирнова]] по розподілах ознак. Вони не кажуть, що
якість упала, — вони кажуть, що дані змінились.
Головне обмеження глибоких мереж: щоб дійти до першого шару, градієнт множиться на
похідну активації стільки разів, скільки шарів. Похідна сигмоїди ніде не більша за
чверть, тож на десяти шарах до входу доходить приблизно мільйонна частка сигналу.
Що це означає на практиці. Перші шари глибокої сигмоїдної мережі не
вчаться повільно — вони не вчаться взагалі й до кінця навчання лишаються з випадковими
вагами. Ліки — ReLU, у якої похідна на додатній півосі дорівнює
рівно одиниці.
Зворотне поширення помилки · backpropagation, backprop
Спосіб порахувати градієнт за один додатковий прохід мережею замість двох
прогонів на кожну вагу. Уперед графом течуть значення, назад — похідні, тими самими
ребрами; кожен вузол множить те, що прийшло справа, на свою власну похідну.
Увесь його математичний апарат — ланцюгове правило у двох реченнях: вплив уздовж шляху
це добуток впливів на кожній ланці, а впливи вздовж різних шляхів
додаються. Оскільки правило множить, а не додає, величина, що множиться сама на
себе багато разів, або гасне до нуля, або вибухає — звідси й затухання градієнта, і
дзеркальний до нього вибух, з яким борються обрізанням норми градієнта.
Не плутати з градієнтним спуском. Backprop — не алгоритм навчання, а
спосіб дістати градієнт. Навчає модель градієнтний спуск
або Adam. На мільйоні ваг backprop дає виграш у мільйон разів —
і саме тому глибоке навчання взагалі можливе.
Правило, за яким міряють відстань між двома групами обʼєктів, коли відстань
між окремими обʼєктами вже відома. Single бере найближчу пару, complete
— найдальшу, average — середнє по всіх парах, Ward — приріст сумарного
розкиду після злиття.
Правило визначає форму результату. Single зростає ланцюжками
й здатен пройти вузьким містком між двома щільними купами, злипши їх в одну; Ward
тягне до компактних куль, схожих на те, що дає k-means. Тому «яке звʼязування»
— не деталь налаштування, а вибір того, що вважати кластером.
Ситуація, коли градієнт, ідучи назад крізь шари, множиться на числа менші за
одиницю й до перших шарів доходить майже нулем. Глибокі шари вчаться, ранні —
практично ні.
Звідки беруться ті множники. Похідна сигмоїди не перевищує
0.25, тож десять шарів дають щонайбільше 0.25¹⁰ ≈ 10⁻⁶. Саме тому
[[ReLU]] витіснила сигмоїду в прихованих шарах: її похідна дорівнює одиниці
скрізь, де вхід додатний. Друга частина ліків — [[Ініціалізація Xavier і He|правильна
ініціалізація]].
До кожного лічильника перед підрахунком часток додають однакове маленьке число. Без цього
одне слово, якого не було в навчальній вибірці, обнуляє добуток і накладає вето на всі
інші свідчення.
Ширший сенс. Це регуляризація: ми свідомо псуємо оцінку на навчальних
даних заради кращої на нових. Те, чого ти не бачив, ти просто не бачив, — це ще не доказ
неможливості.
Число, з якого генератор псевдовипадкових чисел починає роботу. Однакове зерно
дає однакову послідовність, тож запуск, який учора дав 0,84, завтра дасть те саме.
Що воно дає й чого не дає. Дає відтворюваність: чужий
результат можна повторити в себе. Не дає надійності: гарне число на одному
зерні може бути щастям. Тому зерно фіксують, а висновки роблять по кількох.
Систематична похибка: наскільки усереднена по всіх можливих навчальних вибірках модель
промахується повз істину. Виникає, коли клас моделей у принципі не здатен описати
справжню залежність — прямою не намалюєш хвилю, скільки даних не давай.
Одне англійське слово, дві українські назви. У парі «bias — variance»
це зміщення: систематичний промах, який лікують ускладненням моделі.
У нейроні те саме англійське слово означає зсув — окреме число, що
додається до зваженої суми. Речі різні, і курс свідомо розводить їх двома словами.
Чесний поділ прогнозу між ознаками, позичений з теорії кооперативних ігор: прогноз —
це виграш команди, ознаки — гравці. Перебирають усі порядки, у яких гравці могли заходити
в команду, і усереднюють приріст від приходу кожного.
Від чого залежить відповідь. Від фону — набору випадкових
рядків, якими підмінюють «відсутні» ознаки, — і від складу ознак у моделі. Пояснення
завжди відповідає на питання «чому порівняно з цим фоном», і фон варто називати вголос.
Окреме число нейрона, яке додається до зваженої суми входів завжди, незалежно від ознак.
Воно задає, наскільки охоче нейрон каже «так», коли всі входи нульові, і геометрично
рухає межу рішень паралельно самій собі.
Чому не «зміщення». Це та сама англійська літера bias, але зовсім інша
річ: не системна похибка з розкладу помилки, а параметр моделі — рівно те, що в лінійній
регресії зветься вільним членом. Курс розводить два поняття
двома словами навмисно: зміщення зменшують складнішою
моделлю, а зсув просто підбирають навчанням.
Спочатку кожен обʼєкт — окремий кластер; далі найближча пара груп зливається, і так
доти, доки все не стане однією групою. Результат — не набір міток, а дендрограма:
дерево злиттів, у якому висота перемички дорівнює відстані між групами в момент злиття.
Горизонтальний зріз на будь-якій висоті дає своє розбиття, тож кількість груп обирають
після побудови, а не наосліп до неї.
Ціна. Потрібні всі попарні відстані, а їх приблизно квадрат від
кількості обʼєктів: тисяча рядків — пів мільйона відстаней, сто тисяч — уже сорок
гігабайтів. Це метод для тисяч рядків, не для мільйонів.
Спосіб виправити шкалу ймовірностей, який не припускає про викривлення нічого, крім
одного: виправлена ймовірність не має спадати, коли оцінка моделі росте. Серед усіх таких
неспадних функцій вона шукає ту, що найкраще лягає на дані; результат має вигляд
сходинок.
Гнучкіша за Платта — і жадібніша до даних. На кількох сотнях обʼєктів
вона починає повторювати шум; орієнтир із практики — від тисячі обʼєктів у калібрувальній
вибірці. Побічний ефект сходинок: сусідні оцінки склеюються в блоки з однаковим значенням,
тому частина порядку втрачається й AUC може просісти в третьому
знаку. У Платта — не може.
Вбудована схильність архітектури до певного типу розвʼязків. Згортка перемагає на
зображеннях не тому, що має менше параметрів, а тому, що серед мільйонів способів
описати навчальні дані вона обирає ті, які поважають структуру зображення.
Величина, яку мінімізує метод k-середніх: сума квадратів відстаней від кожної точки до
центра її власного кластера. Що менша інерція, то щільніше точки тиснуться до своїх
центрів.
Чому за нею не обирають кількість кластерів. Інерція завжди спадає,
коли кластерів більшає, і при кількості центрів, рівній кількості точок, дорівнює нулю.
Тому шукають не мінімум, а лікоть — місце, де крива з обриву переходить у
пологий схил.
Побудова нових стовпців із наявних — переклад твого розуміння задачі на мову чисел.
Сирі величини майже завжди безглузді без масштабу: коли числа різняться на порядки, їх
ділять, коли живуть в одному масштабі — віднімають.
Найсильніший прийом — агрегат по групі. Розбити таблицю на групи,
порахувати щось усередині кожної й приклеїти результат назад до кожного рядка. Найкраще
працює групування за обʼєктом, що породжує рядки: продавець, користувач, магазин.
Ініціалізація Xavier і He · Xavier / Glorot and He initialization
Правила, за якими беруть початкові ваги мережі, щоб дисперсія сигналу не гасла й не
вибухала з глибиною. Чим ширший шар, тим менші стартові ваги; He відрізняється від
Xavier удвічі більшою дисперсією — це поправка на половину значень, яку зʼїдає ReLU.
Чому не нулі. З нульових ваг градієнт теж виходить нульовим, і мережа
не зрушить жодною вагою. Однакові ненульові ваги теж не рятують: усі нейрони шару рахують
те саме й отримують ту саму поправку — шар із тисячі нейронів працює як один.
Здатність пояснити, чому модель дала саме таку відповідь. Слово ховає чотири різні
задачі — довіра користувача, налагодження моделі, вимога регулятора й наукове
розуміння, — і метод обирають під питання, а не навпаки.
Межа, за якою пояснення перестає бути правдою. Ланцюжок такий:
світ → дані → модель → пояснення. Пояснення бачить лише свого сусіда зліва, тому описує
модель, а не світ. Кореляція не стає причиною від того, що її гарно намалювали.
Властивість оцінки читатися буквально: якщо серед обʼєктів, яким модель дала 0.7, справді
близько 70 % позитивних, модель калібрована. Потрібне скрізь, де число моделі йде далі
в розрахунок ризику чи очікуваної вигоди.
Що калібрування не ловить — і чого не дає.AUC
залежить лише від порядку оцінок: піднеси всі ймовірності до квадрата — порядок
збережеться, AUC не зміниться, а числа стануть відверто брехливими. Зворотний бік тієї
самої монети: виправлення шкали — теж перетворення, що зберігає порядок, тому воно не
може підняти ні AUC, ні accuracy. Хто обіцяє, що калібрування
«підвищить точність моделі», обіцяє неможливе — воно лише дозволяє прочитати число
буквально.
Хто саме бреше — поміряно, а не переказано. Поширену думку, що бустинг
тягне ймовірності до країв, замір не підтвердив: на дошці оголошень теми 21 AdaBoost
затиснув усі оцінки в проміжок 0.20–0.71, тобто стиснув їх до середини — сигмоїдне
спотворення, — і при найкращій AUC із чотирьох моделей дав найгірше калібрування. До
країв тягне натомість наївний Баєс: він вважає залежні
ознаки трьома незалежними свідченнями й перемножує їх, тому обіцяє 0.94 там, де насправді
0.76. Напрямок залежить від даних і налаштувань, тож правильна звичка — не пригадувати
таблицю, а побудувати діаграму надійності для своєї
моделі на своїх даних.
Найпростіший спосіб виправити брехливі ймовірності: поверх готової моделі навчають другу,
крихітну — логістичну регресію на єдиній ознаці, самій оцінці першої моделі. Вона підбирає
лише два числа, розтяг і зсув, тобто натягує на викривлення сигмоїду.
Два параметри — це і стійкість, і межа. Через них методу вистачає
кількох сотень обʼєктів і він не боїться шуму; ціна — жорсткість: якщо реальне викривлення
не схоже на сигмоїду, Платт його не випрямить, і тоді беруть
ізотонічну регресію. Обидва методи вчать на окремій
калібрувальній вибірці: на тих самих даних, де навчалась базова модель, калібрувальник
вивчить не її викривлення, а сліди перенавчання.
Нову модель пускають ухвалювати справжні рішення, але для маленької частки потоку —
скажімо, 5 % оголошень. Мета не поміряти якість (на 5 % за день її й не поміряєш), а
спіймати грубу поломку на малій крові.
Не плутай із тінню.Тіньовий запуск
рішень не ухвалює взагалі, канарка — ухвалює, просто для небагатьох. Тінь відповідає на
питання «чи вона взагалі працює на живих даних», канарка — «чи не ламає вона щось
непередбачене», A/B — «чи справді вона краща».
Значення, нижче якого лежить задана частка даних. Квантиль 0,25 — це число, менше
за яке чверть спостережень; квантиль 0,5 — це медіана. Сота частка зветься
перцентилем.
Де стають у пригоді. Ними описують розподіл, не припускаючи
його форми, і ними ж ріжуть викиди: «обрізати все, що вище за квантиль 0,99» —
правило, яке працює й на несиметричних даних, де середнє з відхиленням брешуть.
Задача, у якій передбачається одна з обмеженої кількості міток, і на кожну мітку в даних
є достатньо прикладів. Тип задачі визначається не типом колонки, а парою «скільки різних
значень» плюс «скільки даних».
Не плутати задачу з моделлю. Логістична регресія має в назві слово
«регресія», але розвʼязує задачі класифікації. Збіг слів — історична випадковість.
Розкласти обʼєкти на групи так, щоб усередині групи вони були схожі, а між групами —
різні, не маючи жодної правильної відповіді. Єдиної правильної відповіді тут не існує:
ті самі дані можна законно розкласти і на два сегменти, і на пʼять.
Як перевіряти результат. Двома питаннями. Чи можу я описати кожну
групу словами так, щоб людина з предметної області кивнула? І чи стійке розбиття —
прибери десять відсотків рядків, перезапусти й подивись, чи лишилось воно тим самим.
Квадратна таблиця, у якій зібрані коваріації всіх пар ознак: на перетині рядка
«ціна» і стовпця «рік» стоїть коваріація ціни з роком. На головній діагоналі —
дисперсії, бо коваріація ознаки з собою це і є її розкид.
Таблиця симетрична. Коваріація ціни з роком і року з ціною —
те саме число, тож матриця дзеркальна відносно діагоналі. Саме з її власних векторів
і власних чисел PCA дістає напрямки компонент і розкид уздовж кожного.
Число, що показує, чи відхиляються дві ознаки від своїх середніх разом.
Додатна — коли одна вище середнього, друга теж; відʼємна — коли навпаки; близька
до нуля — звʼязку немає.
Різниця з кореляцією. Коваріація міряється в добутку одиниць
(гривні × дні), тому її величину ні з чим не порівняєш. Кореляція — це та сама
коваріація, поділена на добуток відхилень, тож вона безрозмірна й завжди лежить
між −1 і 1.
Обʼєкт, що складає всі кроки передобробки й саму модель в один ланцюжок із двома
методами: «вивчи все, що треба вивчити» і «застосуй вивчене». Тестова частина отримує
лише друге — і підмішати в неї свою статистику вже нічим.
Це не турбота про красу коду. Конвеєр фізично унеможливлює
витік: не існує способу випадково застосувати до тесту медіану,
пораховану по тесту.
Відповідь у формі «що мало б бути інакше»: найменша зміна ознак, після якої модель
дала б іншу відповідь. «Якби вік акаунта був на 40 днів більший, оголошення не
позначили б».
Чим воно зручне. Це єдине з пояснень, яке одразу перетворюється
на дію: людині кажуть не «ознака важлива на 0.12», а що саме зробити. Тому його й
вимагають регламенти.
⚠️ І чим воно оманливе. Контрфакт описує межу рішень
моделі, а не причину у світі: він каже, як переконати модель, а не як змінити
явище. До того ж для одного рядка їх багато й вони суперечать один одному — обрати
«найближчий» можна лише домовившись, що вважати близьким.
Число від −1 до +1, яке відповідає на одне питання: наскільки добре хмару точок можна
замінити однією прямою. Плюс одиниця — точки на прямій, що йде вгору, мінус одиниця —
униз, нуль — прямої, яка щось описує, немає.
Нульова кореляція означає «прямої немає», а не «звʼязку немає». Якщо
підозрілі і найдешевші, і найдорожчі оголошення, пряма крізь таку хмару лежить
горизонтально, і кореляція чесно повідомляє нуль. Вона не помилилась — ми поставили
інше питання.
Дві криві на одній картинці: як міняється якість на навчальних і на відкладених даних,
коли навчальну вибірку беруть дедалі більшу. Прилад для одного дорогого питання — чи
допоможуть додаткові дані, — на яке інакше довелось би відповідати, замовивши розмітку
наосліп.
Без стелі криві не читаються. «Криві злиплись низько» (модель
безпорадна, бракує не прикладів, а інформації в кожному) і «криві зійшлись високо»
(модель узяла від даних майже все) виглядають на графіку однаково — відрізняє їх лише
висота відносно стелі задачі. Дані окупляться тільки
в третьому випадку: розрив великий, а валідаційна крива ще росте.
Статистичний критерій, який перевіряє, чи схильні значення однієї групи бути
вищими за значення іншої. Рахується він перебором усіх пар «один з першої групи ×
один з другої» й підрахунком, у скількох парах перший вищий.
Це те саме, що AUC. Частка правильно впорядкованих пар — і є
ймовірнісне прочитання AUC. Тому площу під ROC-кривою в статистиці зустрічають під
другим імʼям, і це не збіг, а та сама величина.
Замість одного розбиття прогнати всі по черзі й усереднити: дані ділять на кілька
частин, кожна по черзі стає перевірочною, решта навчальною. Кожен обʼєкт рівно один раз
побуває у валідації, і жоден рядок не пропадає.
Дивитись треба на два числа. Не лише на середнє по фолдах, а й на
розкид між ними. Різниця між моделями має сенс лише тоді, коли вона більша за цей розкид:
0.812 ± 0.030 проти 0.818 ± 0.028 — це однакові моделі.
Функція втрат для класифікації. Штрафує тим сильніше, чим меншу ймовірність модель дала
правильній відповіді: дав правильному класу 0.99 — заплатив 0.01, дав 0.5 — 0.69, дав
0.01 — 4.6. А впевнено помилитись коштує нескінченність.
Чому не квадратична помилка. Три причини, одна поверх одної.
Квадрат карає впевнену помилку лише вчетверо сильніше за невпевнену, логарифм —
необмежено, тому модель стає обережною. У парі з сигмоїдою похідна крос-ентропії
скорочується повністю, і градієнт виходу дорівнює простій різниці «прогноз мінус
правильна відповідь», тоді як у квадратичної лишається множник, який зануляє градієнт
саме тоді, коли модель упевнено помилилась. І найглибша: квадратична помилка поверх
сигмоїди не опукла, а крос-ентропія опукла завжди — тобто має рівно один мінімум.
Модель, яка ділить простір ознак на ділянки й у кожній видає одне й те саме число.
Її графік — не крива, а сходинки.
Звідки беруться межі застосування. Такою є будь-яка модель на
деревах. Вона легко описує різкі пороги, але не вміє продовжити тенденцію:
за краєм побачених даних сходинка лишається горизонтальною, тож
[[Екстраполяція]] для дерев неможлива за побудовою.
Правило, за яким беруть похідну функції від функції: похідні перемножуються.
Якщо втрата залежить від виходу, вихід — від зваженої суми, а сума — від ваги, то
похідна втрати по вазі є добутком трьох похідних уздовж цього ланцюжка.
На ньому тримається все навчання мереж.
[[Зворотне поширення помилки|Зворотне поширення]] — це ланцюгове правило,
застосоване до [[Граф обчислень|графа обчислень]] так, щоб кожна проміжна похідна
рахувалась один раз, а не заново для кожної ваги. І звідси ж
[[Згасання градієнта|згасання]]: у добутку багатьох малих множників результат малий.
Модель, яка на етапі навчання не робить майже нічого — лише запамʼятовує дані, —
а всю роботу відкладає на момент передбачення. Протилежність — старанна
(eager) модель, яка стискає дані у ваги наперед.
Ціна переїжджає, а не зникає. kNN навчається миттєво, зате
кожне передбачення коштує перегляду вибірки. Лінійна регресія навпаки: підгонка
коштує один раз, а далі прогноз — це кілька множень.
Найпростіша модель, яка описує відповідь як зважену суму ознак плюс вільний член.
«Лінійна» вона за коефіцієнтами, а не за ознаками: додаси квадрат ознаки — отримаєш
криву, і це все ще лінійна регресія.
Навіщо її знати, якщо вона рідко виграє. Це базова лінія, з якою
порівнюють усе інше, і найдешевший спосіб зрозуміти механіку, яку далі побачиш скрізь:
функція втрат, крок, перенавчання, регуляризація, припущення.
Властивість даних, за якої існує хоч одна пряма (площина, гіперплощина), що ділить класи
без жодної помилки. Правило перцептрона гарантовано знаходить таку пряму, якщо вона є, —
і не зупиняється взагалі, якщо її немає.
Межа на чотирьох точках. Виключне «або» не розділити жодною прямою, і
це не недолік навчання, а геометрія: відрізки між точками різних класів перетинаються.
Двох прямих уже досить — саме тут закінчується один нейрон і починається мережа.
Модель класифікації, яка передбачає не сам клас, а ймовірність позитивного класу:
ту саму зважену суму ознак пропускають крізь сигмоїду.
Її межа рішень завжди пласка, хоч крива ймовірності й вигинається.
Справжнє означення — через логіт. Логіт (logit) — це логарифм
шансів, величина, яка розтягує тісний проміжок імовірності від нуля до одиниці на всю
числову пряму. Модель лінійна саме за логітом, а не за ймовірністю, і сигмоїда лише
повертає нас назад в імовірності.
Логарифм шансів: log(p ÷ (1 − p)). Перетворює
ймовірність, замкнену між 0 і 1, на число без меж — від мінус нескінченності до
плюс нескінченності.
Навіщо це потрібно. Лінійна модель вміє видавати будь-яке
число, а ймовірність мусить лежати між нулем і одиницею. Логіт розтягує відрізок
у пряму, тож модель передбачає саме його — а сигмоїда згортає результат
назад.
Сума модулів різниць по кожній ознаці — «скільки кварталів пройти», якщо ходити
лише вздовж вулиць. На відміну від евклідової, тут різниці не підносять до
квадрата.
Коли її беруть. Вона менш чутлива до одного великого
розходження: евклідова через квадрат надає йому ваги, манхеттенська — ні. У високій
розмірності її часто радять саме тому, що відстані за нею розповзаються повільніше.
Пара до [[Евклідова відстань]].
Приведення ознак до порівнянного розміру. Min-max стискає значення у
проміжок від 0 до 1 за формулою (x − min) ÷ (max − min);
стандартизація віднімає середнє й ділить на стандартне відхилення. Потрібне
там, де алгоритм міряє відстані або складає ознаки з вагами.
Головне — не формула, а порядок дій. `min`, `max`, середнє й
відхилення рахують тільки на навчальній частині, а до тестової застосовують
уже готові. Порахувати їх «по всіх даних» — це витік: перетворення підглянуло тестові
обʼєкти. Не плутати з Пакетною нормалізацією — то шар усередині мережі.
Середнє значення величини, якщо повторити дослід дуже багато разів. Для кубика
воно дорівнює 3,5 — числа, яке на гранях немає й бути не може. Позначається
E[…], читається «сподіване значення того, що в дужках».
Де це кусає. Сподіване значення максимуму кількох
випадкових чисел більше за максимум їхніх сподівань. Тому найкращий із двадцяти
перевірених наборів параметрів виглядає кращим, ніж він є: частину переваги дав
випадок. Це й зветься прокляттям переможця.
Форма, у якій дані потрапляють у будь-яку бібліотеку: двовимірна таблиця чисел, де рядок —
один обʼєкт, а стовпець — одна ознака, і поруч одновимірний стовпчик відповідей тієї самої
довжини. Домовленість не випливає з математики — її просто прийняли всі.
Дві тихі помилки. Одну ознаку подають стовпцем, а не рядком: інакше
бібліотека не знає, чи їй дали тисячу обʼєктів з однією ознакою, чи один обʼєкт із тисячею.
І гірша: якщо кількості рядків збіглися, а порядок ні, ніхто нічого не скаже, а модель
вчитиметься на випадкових парах.
Чотири числа, у яких міститься вся інформація про поведінку класифікатора при заданому
порозі: влучання, хибна тривога, правильна тиша й пропуск. Будь-яка метрика класифікації —
це просто дріб із цих чотирьох чисел.
Головне зауваження. Хибна тривога й пропуск — принципово різні події
з різною ціною. Змішувати їх в одному показнику означає свідомо втрачати інформацію.
Значення, яке стоїть посередині впорядкованого ряду: половина чисел менша, половина
більша. Якщо чисел парна кількість — беруть середнє двох центральних.
Чим відрізняється від середнього. Один величезний промах
зсуває середнє скільки завгодно далеко, а медіану — щонайбільше на одну позицію в
черзі. Тому медіанна помилка показує «як зазвичай», а середня — «скільки коштує
все разом, з катастрофами включно».
Нейрон із [[ReLU]], який після невдалого кроку почав видавати нуль на всіх
прикладах вибірки. Похідна ReLU на відʼємному вході теж нуль, тож градієнт до нього
більше не доходить, і повернутись він уже не може.
Ціна простоти ReLU. Її похідна дорівнює одиниці або нулю —
саме це рятує від [[Згасання градієнта|згасання]] і саме це вбиває нейрон назавжди.
Ліки: менший крок навчання, розумніша ініціалізація або варіанти з ненульовим
нахилом ліворуч (Leaky ReLU, GELU).
Метод головних компонент · principal component analysis, PCA
Спосіб замінити багато стовпців кількома новими, викинувши якнайменше. Перша компонента —
напрямок, у якому хмара точок витягнута найсильніше; друга — найбільшого з того, що
лишилось, і перпендикулярна до першої.
Дві важливі обмовки. PCA не вибирає найкорисніші ознаки — він
виготовляє нові як суміші старих, після чого таблиця стає нечитабельною. І він
максимізує розкид, а не користь: ознака, за якою відрізняються шахраї, легко опиняється
в компоненті, яку ти викинеш першою.
Спосіб обрати кількість кластерів: будують графік [[Інерція|інерції]] проти k і
шукають злам — точку, після якої крива різко полегшує спад.
Чому це не рецепт. Інерція спадає з кожним новим кластером
завжди, аж до нуля при k = n, тож мінімум тут не підказує нічого. А злам на
реальних даних часто розмитий або його немає взагалі — і тоді метод чесно не дає
відповіді, а не дає погану. Пара до нього — [[Силует]].
Спосіб підібрати пряму: серед усіх можливих обирають ту, для якої сума
квадратів вертикальних відхилень точок від неї найменша.
Чому квадрат, а не модуль. Квадрат карає великий промах
непропорційно сильно, тож пряма уникає далеких точок — і саме тому один викид
здатен її помітно повернути. Плюс квадратична функція гладка, і мінімум у неї
знаходиться формулою, а не перебором.
Правило, що згортає весь стовпчик помилок в одне число, яке можна порівняти з іншим
числом. Метрика — це не термометр збоку, а формулювання того, що ти вважаєш успіхом:
обереш не те число — отримаєш не ту модель.
Метрика й функція втрат — різні ролі одного числа. Метрику обирають
за зрозумілістю людині й рахують один раз наприкінці; функцію
втрат — за зручністю для оптимізації й рахують тисячі разів під час навчання.
Ширина смуги, у якій живе середня половина значень: відстань між першим і третім
квартилями. Викидами зазвичай вважають те, що відстоїть від цієї смуги більш ніж на
півтора її розмаху в будь-який бік.
Чому саме середня половина. Вона не залежить від того, що коїться в
хвостах — хоч постав найдорожчий телефон у мільйон гривень. Лінійка, якою ми міряємо
викиди, сама від викидів не залежить. Множник півтора при цьому — домовленість, а не
закон природи.
Спосіб перетворити текст на числа: рахують, скільки разів кожне слово словника
трапилось, а порядок слів відкидають. «Терміново продам» і «продам терміново»
дають однаковий набір.
Чому це працює попри втрату порядку. Для багатьох задач
вирішує сама наявність слів, а не їхня послідовність. Саме на такому поданні
працює мультиноміальний наївний Баєс, і саме тому його «наївність» тут майже не
шкодить.
Надбудова над спуском, яка накопичує швидкість: нова швидкість — це більша частина
старої плюс сьогоднішній градієнт, а параметр зсувається за швидкістю, а не за градієнтом.
Стабільні напрямки підсилюються, метушливі гасяться самі.
Чому це працює. Уздовж пологого дна яру градієнт щокроку дивиться в
один бік, тому доданки складаються й швидкість доростає приблизно до десятикратного
градієнта. Упоперек яру знак міняється щокроку, сусідні доданки віднімаються, і
накопичуватись нема чому.
Ситуація, коли ознаки дублюють одна одну — наприклад, площа в метрах і та сама площа у
футах. Прогнози лишаються нормальними, а коефіцієнти стають сміттям: одній ознаці
величезна додатна вага, другій така сама відʼємна.
Частина даних, на якій алгоритм підбирає параметри моделі. Помилка на ній вимірює
запамʼятовування, а не розуміння, і тому не несе жодної інформації про якість: складніша
модель завжди запамʼятовує краще.
Задачі, у яких правильної відповіді немає взагалі: кластеризація, зниження розмірності,
пошук аномалій. Разом із колонкою відповідей зникає й метрика у звичному сенсі, і поділ
на навчальну й тестову частини.
Навчання з підкріпленням · reinforcement learning, RL
Ніхто не каже агентові правильну відповідь — середовище лише зрідка повідомляє числом,
наскільки вийшло. Зворотний звʼязок тут оцінювальний, а не інструктивний:
дізнатись, чи була краща дія, можна лише спробувавши її.
Де це торкається всіх. RLHF — навчання на людському зворотному
звʼязку: людям показують пари відповідей мовної моделі й питають, яка краща; на цих
порівняннях вчать окрему модель винагороди, а вже її число модель максимізує.
Випадок, коли в даних уже є пари «обʼєкт → правильна відповідь», і модель вчиться
відтворювати цей звʼязок. «Учитель» тут — не людина поруч із компʼютером, а сама
наявність відповідей у таблиці: хтось їх колись проставив.
Класифікатор, який рахує ймовірність цілого обʼєкта як добуток імовірностей окремих
ознак. «Наївність» — саме в цьому припущенні незалежності; воно хибне майже завжди, а
метод усе одно працює, бо для рішення потрібен порядок, а не самі числа.
Думка, ширша за метод. Модель може бути корисною, будучи неправильною.
Питання не в тому, чи правдива модель, а в тому, чи достатньо вона правдива для рішення,
яке ти нею ухвалюєш.
Модель занадто проста для явища: помилка висока і на навчальних даних, і на нових, а
розриву між ними майже немає. Пряма фізично не може бути крутою праворуч і пологою
ліворуч — скільки їй даних не давай.
Лікується протилежним до перенавчання. Недонавченій моделі треба
дати більше: гнучкості, ознак, часу навчання, слабший штраф. Додавання даних тут
не допомагає взагалі — пряма, навчена на мільйоні рядків, лишається тією самою прямою.
Третій доданок помилки поряд зі зміщенням і дисперсією: усе, чого не можна передбачити за
наявними ознаками в принципі. Це підлога, нижче якої не опуститься жодна модель, навіть
ідеальна.
Практичний наслідок. Не полюй на нуль. Модель, що показала нульову
помилку, майже напевно має витік, а не геніальність.
Оцінка, яка в середньому по багатьох повтореннях дає справжнє значення — не
завищує й не занижує систематично. Окремий замір усе одно промахується, але промахи
в різні боки врівноважуються.
Навіщо тестова вибірка недоторкана. Щойно ти щось обрав за
результатом на ній — поріг, набір ознак, модель, — оцінка перестає бути незміщеною й
починає систематично завищувати. Тому вибір роблять на валідаційній, а тестову
відкривають один раз.
Дві дії й жодної більше: порахувати зважену суму входів зі зсувом і пропустити результат
крізь одну функцію. Геометрично один нейрон ділить простір ознак навпіл пласкою межею й
каже «так» усьому, що з одного боку.
Аналогія з живою клітиною поверхнева. Спільним лишається одне речення:
«багато входів, один вихід, вихід залежить від зваженої суми». Зі
сигмоїдою один нейрон — це дослівно
логістична регресія, символ у символ.
Модель, у якої немає сталого набору коефіцієнтів: замість того щоб стиснути
дані у кілька чисел, вона зберігає самі дані й звертається до них під час
передбачення. Класичний приклад — метод k найближчих сусідів.
Що це означає на практиці. Навчання майже безкоштовне —
дані просто запамʼятали. Зате кожне передбачення коштує повного перегляду вибірки,
і памʼять росте разом із нею. Назва не означає «без параметрів»: k і вибір
відстані — теж параметри, просто не ваги.
Обмеження, яке виникає саме, з самого способу навчання, а не з дописаного штрафу.
Градієнтний спуск із нульового старту на надпараметризованій задачі збігається саме до
розвʼязку з найменшою нормою ваг — тобто до найгладшого з усіх ідеальних.
Задача «чи схоже це на те, що я бачив», де модель навчають на чистих даних
без аномалій, а дивне шукають уже серед нових.
Різниця з пошуком викидів. Пошук викидів (outlier detection)
працює з брудною вибіркою й шукає дивне всередині неї самої. Виявлення новизни
вимагає гарантії, що навчальні дані чисті, — і саме ця гарантія на практиці найчастіше
й ламається.
Формула, яка дає коефіцієнти лінійної регресії одразу, без ітерацій:
β = (XᵀX)⁻¹ Xᵀy.
Коли ним не користуються. Обернення матриці коштує
приблизно куба кількості ознак, тож на широких таблицях це дорого; а якщо дві
ознаки лінійно залежні, матриця XᵀX взагалі не
обертається. Тоді беруть [[Градієнтний спуск]].
Нормальний розподіл · normal distribution, Gaussian
Дзвоноподібний розподіл, повністю заданий двома числами: середнім (де вершина)
і стандартним відхиленням (наскільки він широкий). Приблизно 68 % значень лежать
у межах одного відхилення від середнього, 95 % — двох.
Де він потрібен, а де ні. Лінійній регресії він потрібен не
для самої підгонки, а для довірчих інтервалів коефіцієнтів. Гаусів наївний
Баєс припускає дзвін для кожної ознаки всередині класу — і саме тому програє, коли
клас насправді складається з двох різних груп: замість двох горбів він бачить
один розмазаний.
Матриця, яка скасовує дію іншої: помножити на A, потім
на A⁻¹ — і повернешся туди, звідки почав. Аналог ділення
для таблиць чисел.
Не завжди існує. Якщо одна ознака є сумішшю інших, матриця
XᵀX «сплющує» простір, і повернути втрачене неможливо —
оберненої немає. Практично це та сама [[Мультиколінеарність]], і саме її лікує
додавання λ на діагональ.
Те, про що ми робимо висновок, — один рядок таблиці. Якщо рядок описує іноді оголошення,
а іноді продавця з кількома оголошеннями, модель отримає суміш двох різних сутностей, і
жодна метрика не покаже, що не так.
Обмеження довжини вектора градієнта згори: якщо вона перевищує поріг, вектор
масштабують так, щоб напрямок лишився, а довжина стала рівно порогом.
Напрямок зберігається, розмір — ні. Це головна властивість
прийому: модель усе одно йде туди, куди показував градієнт, просто меншим кроком.
Тому обрізання рятує від [[Вибух градієнта|вибуху]], не спотворюючи навчання.
Прибирання гілок, які приносять більше складності, ніж користі. Роблять це або
наперед — не даючи дереву рости (обмеження глибини, мінімальний розмір листка),
або потім — виростивши дерево повністю й зрізавши гілки, що не окупились на
перевірці.
Чому без цього дерево нікчемне. Дерево, якому не заважати,
доросте до листків з одного обʼєкта й дасть на навчанні бездоганний результат — тобто
просто запамʼятає таблицю. Обрізання — головні ліки від [[Перенавчання]] саме для
дерев.
Спосіб зробити з бінарного класифікатора багатокласовий: навчають окремий
класифікатор на кожен клас за правилом «цей клас проти всіх інших», а відповіддю
беруть той, чия впевненість найбільша.
Різниця зі softmax. Тут класифікатори навчаються
незалежно, і їхні ймовірності не мусять давати в сумі одиницю. Softmax навчає
одну модель одразу на всі класи, і сума в неї одинична за побудовою.
Одна характеристика обʼєкта, виміряна однаково для всіх рядків, — стовпець таблиці, який
подається моделі на вхід. Тип ознаки — це не тип даних у таблиці, а питання про те, які
операції над значеннями мають зміст.
Більше ознак не означає краще. Кожна зайва колонка — це додатковий
шанс, що модель знайде в ній випадкову закономірність. Серед пʼятдесяти стовпців чистого
шуму найкращий випадково дає кореляцію більшу, ніж осмислена ознака «вік телефона».
Колонка, яка описує не те, що було до події, а те, що сталося через
неї. Приклад: «скільки днів оголошення провисіло до зняття» — шахрайське знімають за
години, чесне висить тижнями, тож колонка переказує відповідь.
Як ловити. Питання одне: чи існувало це значення в момент,
коли треба ухвалювати рішення. Якщо ні — ознаки в моделі бути не може, хоч би як
добре вона працювала на історії. Родич поняття Проксі-ознака, але причина інша:
там ознака підмінює заборонену, тут — забігає в майбутнє.
Надбудова над спуском, яка не рахує градієнт і не чіпає мережу: вона отримує готовий
градієнт і вирішує єдине питання — яким саме кроком зсунути кожен параметр. Кожен метод
із родини лікує свою конкретну біду рельєфу.
Чого оптимізатор не робить. Не лікує затухання
градієнта — цим займається вибір активації й ініціалізації. І не покращує
узагальнення: швидше дійти до мінімуму навчальної втрати не означає краще працювати на
нових даних.
Прийом дослідження без випадковості: початкові оцінки всіх дій ставлять свідомо
завищеними. Кожна спроба дає результат, гірший за очікування, тож агент сам переходить
до наступної — доки не обійде всі.
Пара до [[ε-жадібна стратегія|ε-жадібної]]. Той самий
компроміс, розвʼязаний інакше: тут дослідження вбудоване в оцінки, а не додане
монеткою. ⚠️ Працює лише доти, доки оптимізм не вичерпався — на середовищі, що
змінюється з часом, агент більше не шукатиме нічого.
Функція, графік якої має форму чаші: відрізок між будь-якими двома її точками
лежить не нижче за сам графік. У такої функції є єдиний мінімум — локальний і
глобальний водночас.
Чому це головна властивість для навчання. На опуклій
поверхні градієнтний спуск гарантовано приходить у справжній мінімум, звідки б не
почав. Log-loss опуклий, а середньоквадратична помилка після сигмоїди — ні, і саме
тому логістична регресія навчається першим, а не другою.
Перпендикулярність у мові векторів: два набори чисел ортогональні, якщо їхній
скалярний добуток дорівнює нулю.
Звідки береться нормальне рівняння. Найкраща пряма — та, у
якої вектор залишків ортогональний до кожної ознаки: якби лишалась хоч крапля
звʼязку, залишки можна було б іще зменшити. Записавши цю умову як
Xᵀ(y − Xβ) = 0, дістаємо формулу — і звідси ж назва
«нормальне», тобто перпендикулярне.
Середня втрата від рішення: ціну помилки множать на ймовірність її зробити. Заблокувати
чесне оголошення коштує 200 грн і трапляється з ймовірністю «не шахрай»; пропустити
шахрайське коштує 1 800 грн і трапляється з ймовірністю «шахрай» — вигідне те рішення,
у якого добуток менший.
Звідси береться поріг. Прирівнявши дві очікувані вартості, дістаємо
поріг = ціна хибної тривоги ÷ (ціна хибної тривоги + ціна пропуску).
При відношенні цін один до девʼяти це 0.10, а не звичні 0.5, і різниця між цими двома
порогами на дошці оголошень теми 21 склала 146 600 грн на 1 200 оголошень. Формула вимагає,
щоб число моделі читалось буквально, тобто спирається на
калібрування.
Те саме вирівнювання, яке ми робимо з входом мережі, але всередині неї: шар бере поточну
порцію прикладів, рахує по ній середнє й розкид кожної активації й приводить їх до
спільної шкали. Придумана заради швидкості, регуляризує побічно.
Дві пастки. Нормалізоване значення прикладу залежить від того, з ким
він потрапив у порцію, — на передбаченні порцій немає, тому статистики беруть накопичені,
і забути перемкнути режим означає отримати в продакшені не те, що в зошиті. І ставити
dropout перед пакетною нормалізацією не можна.
Пакетний і онлайновий висновок · batch and online inference
Дві відповіді на питання «коли рахувати прогноз». Пакетний (він же статичний) раз на добу
проганяє всі обʼєкти й складає відповіді в таблицю, звідки сервіс їх просто дістає;
онлайновий (динамічний) рахує відповідь у мить запиту.
Затримка й свіжість — не одне й те саме. Пакетний відповідає миттєво,
бо відповідь уже лежить готова, — але вона вчорашня, і для щойно опублікованого оголошення
її просто немає. Друга, незалежна вісь — коли навчається модель: статично (навчили один
раз і поклали файл поруч із сервісом) чи динамічно (перенавчається за розкладом або
тригером). Ці дві осі постійно зводять в одну.
Порівняння двох моделей не за середніми, а фолд до фолда: на кожному
однаковому поділі беруть різницю їхніх результатів, і далі працюють із цими
різницями.
Чому це чутливіше за різницю середніх. Складні поділи важкі
для обох моделей, легкі — легкі для обох, і ця спільна хитавиця з різниці зникає.
Лишається тільки те, чим моделі різняться між собою. Далі рахують розкид самих
різниць і запас на випадковість: якщо він накриває нуль, різниця не доведена.
Порція прикладів, за якою рахують один крок оновлення: не один обʼєкт і не вся вибірка,
а кілька десятків. Компроміс між точністю напрямку й кількістю кроків, на якому
працює практично весь сучасний код навчання.
Дерево з одного розрізу: одне питання, дві відповіді. Найпростіший
[[Слабкий учень|слабкий учень]] і класичний учасник бустингу.
Чого пеньок не вміє. Одного розрізу вистачає, щоб врахувати
одну ознаку, але не їхню взаємодію. Тому робочі глибини в бустингу — три-вісім:
саме там дерево починає ловити «дорого і старе», лишаючись слабким.
Відповідь про обʼєкт, не привʼязаний до моменту часу: фото котика лишається фото котика
і вчора, і за рік. У таких задачах колонку з датою треба не просто не використовувати —
її треба обовʼязково прибрати.
Чому дату прибирають. Дата — надзвичайно зручна ознака для
запамʼятовування: кожен день утворює свою невелику групу рядків з однорідною відповіддю.
Модель вивчає «14 березня — шахрайське» і не вивчає нічого іншого. Разом із датою
прибирають і все, що її замінює: порядковий номер запису, автоінкрементний
id.
Перетворення таблиці, якою вона приїхала, у таблицю, з якою можна працювати. У
передобробці немає операцій — є рішення: кожен виклик заповнення чи кодування —
це припущення про світ, яке ти вносиш у дані власноруч.
Єдиний рядок без ціни. Усе, що вчиться на даних — медіана для
заповнення, середнє й відхилення для масштабування, список категорій, межі викидів, —
рахують лише на навчальній частині. Порядок «спершу поділ, потім навчання статистик»
правильний завжди.
Модель завчила шум разом із закономірністю: на навчальних даних вона ідеальна, на нових
провалюється. Підступність у тому, що симптом виглядає як успіх — нуль помилки там, де
ми міряли.
Діагноз ставлять за двома числами, не за одним. Помилка на навчальних
даних і помилка на відкладених поруч: обидві високі й близькі — недонавчання; низька й
висока з великим розривом — перенавчання. Одна цифра діагнозу не дає ніколи.
Не плутати з повторним навчанням. Тема 31 уживає слово
«перенавчання» в іншому значенні — retraining, планове оновлення моделі
свіжими даними. Див. [[Повторне навчання]].
Перемішати значення однієї колонки між обʼєктами — так її звʼязок із відповіддю
руйнується, а розподіл лишається тим самим — і подивитись, наскільки впала якість.
Наскільки впала, настільки ознака й важлива.
Де ламається. На колонках-близнюках. Якщо ціна є в таблиці двічі,
псування однієї нічого не змінює — модель бере те саме з другої, і кожна виглядає
слабшою, ніж є. ⚠️ Це не вада саме цього методу: на близнюках ламається й
[[Важливість ознак|MDI]], тільки навпаки — вона ділить важливість між ними,
і кожна виглядає вдвічі слабшою. Причина одна, наслідки протилежні. Перед тим як
щось відкидати за важливістю, дивись на кореляційну матрицю й перемішуй
корельовані колонки групами.
Нейрон із пороговою функцією замість плавної й правило навчання, у якому немає ні
функції втрат, ні градієнта: відповів правильно — не чіпаємо нічого, помилився —
зсуваємо ваги на вхід цього прикладу.
Обіцянка й межа. Правило гарантовано зупиняється, якщо дані
лінійно роздільні, — і не зупиняється взагалі, якщо
ні. Реальні дані роздільними бувають рідко: досить одного помилково розміченого рядка.
Навчити модель наново на свіжих даних, коли світ відʼїхав від того, на чому вона
вчилась. Архітектура й код лишаються ті самі — міняється лише вибірка.
⚠️ Одне слово, два різні поняття. Курс уживає «перенавчання» у
двох значеннях, і плутати їх дорого. У темі 17 це overfitting: модель завчила
навчальну вибірку й програє на новій — див. [[Перенавчання]]. У темі 31 тим самим
словом звуть retraining: планове оновлення моделі свіжими даними. Перше —
хвороба, друге — ліки, і від зовсім іншої хвороби.
Чого воно не лікує. Повторне навчання допомагає проти
[[Дрейф даних|дрейфу]], але не скорочує [[Затримка міток|затримки міток]]: якщо
правильні відповіді приходять за два місяці, то й найсвіжіша модель училась на
позаминулому світі. Це обмеження розкладу розмітки, а не розкладу навчання.
Форма кривої помилки, у якої не одне дно, а два. Класична U-подібна крива обривається на
порозі інтерполяції різким піком, а далі, у надпараметризованій зоні, помилка знову
спадає — і опускається нижче за найкращу класичну модель.
Чого це не скасовує. Компроміс зміщення й дисперсії лишається чинним;
просто дисперсію тепер стримує не малий розмір моделі, а
неявна регуляризація. Висновок не «беріть
найбільшу модель», а «кількість параметрів перестала бути надійною мірою схильності до
перенавчання».
Правило, за яким агент обирає дію в кожному стані. Політика — це і є те, чого ми вчимо;
усе решта — цінності, оцінки, моделі середовища — допоміжні конструкції, потрібні лише
щоб її покращити.
Наскільки погано модель, яка стискає дані й розтискає їх назад, відтворила
конкретний рядок. Велика помилка означає «на решту не схоже»: модель училась на
типовому й типове відтворює точно.
Найпростіший варіант — це PCA. Спроєктувати рядок на кілька
головних компонент і повернути назад; що далі результат від оригіналу, то менше
рядок вкладається в структуру, яку описують ці компоненти. Складніший варіант —
автокодувальник.
Множник, яким Adam ділить свої накопичені середні на перших кроках. Накопичення
починаються з нуля, тож спершу вони систематично занижені — поправка це компенсує й
з часом згасає до одиниці.
Без неї перші кроки надто малі. Adam ділить крок на корінь
із накопиченого квадрата градієнта; якщо і чисельник, і знаменник занижені, а
знаменник під коренем — баланс порушується саме на початку, коли модель найдалі від
мінімуму. ⚠️ Не плутати зі [[Зсув|зсувом]] нейрона: тут «зсув» означає систематичну
похибку оцінки, а не параметр моделі.
Точка, у якій кількість вільних параметрів дорівнює кількості навчальних прикладів.
Розвʼязок, що проходить точно крізь усі точки, стає рівно один — і його якість справа
випадку, бо вибору немає взагалі.
Пік не потребує шуму. Навіть на ідеально чистих даних єдиний
інтерполюючий розвʼязок буває диким — просто тому, що він єдиний. Практичний висновок:
обходь околиці порогу, бери або суттєво менше параметрів, або суттєво більше.
Поріг, поріг рішення · threshold, decision threshold
Число, з яким порівнюють оцінку моделі, щоб отримати рішення. Значення 0.5 за
замовчуванням — не закон природи, а зручна домовленість: поріг залежить не від моделі,
а від того, скільки коштує кожен вид помилки.
Головна думка. Навчання моделі й вибір порогу — дві незалежні задачі.
Першу розвʼязує алгоритм, другу — людина, яка знає предметну область. Модель тренують один
раз, поріг переглядають щоразу, коли змінюється ціна помилки. Обирають його на валідації,
ніколи на тесті: поріг — такий самий гіперпараметр, як усі
інші.
Поріг ≠ калібрування. Порахувати поріг із цін двох помилок
(очікувана вартість помилки) можна лише тоді, коли
ймовірність читається буквально, — тобто на каліброваній моделі; згодувати формулі
брехливі числа означає отримати брехливу відповідь. А якщо поріг ти підбираєш
по даних, він викривлену шкалу компенсує сам, і
калібрування вже нічого не додасть.
«Пронумеруймо значення»: колонка була одна — колонка й лишилась. Правильний вибір лише
там, де порядок справді є в самих значеннях і числа його не вигадують, а записують.
Що воно стверджує. Скажи вголос: що модель із кодом 2 удвічі більша
за модель із кодом 1 і лежить рівно посередині між сусідами. І найгірше — числа беруться
з абетки назв, а не зі світу: додай дешеву модель на літеру «D», і вона отримає
найбільший код.
Спосіб домогтися справедливості, не чіпаючи саму модель: її оцінки лишаються, а
міняються пороги — свій для кожної групи.
Чим зручна й чим незручна. Зручна тим, що працює з готовою
моделлю й дозволяє точно влучити в потрібну рівність. Незручна тим, що вимагає
знати групу в момент рішення — а це саме те, що часто заборонено законом або
просто недоступно.
Чутливість: наскільки зміниться результат, якщо трохи посунути те, від чого він
залежить. Знак каже, у який бік, величина — наскільки круто. Геометрично це нахил
схилу в точці.
Часткова похідна (∂). Коли величин багато, беруть похідну по
одній із них, тримаючи решту нерухомими, — і пишуть кривулькою ∂
замість прямої d. Набір усіх часткових похідних і є
[[Градієнт|градієнт]].
Частка загального розкиду даних, яку бере на себе компонента. Якщо перша
компонента пояснює 0,62, а друга 0,24, то дві разом утримують 86 % розкиду, а на
решту напрямків припадає 14 %.
Як нею користуються. За накопиченою часткою обирають, скільки
компонент лишити: беруть стільки, щоб набралося, скажімо, 0,95. ⚠️ Висока пояснена
дисперсія не означає користі для задачі: PCA дивиться лише на розкид ознак і про
таргет не знає нічого.
Імовірність побачити саме ті дані, які ми бачимо, якщо припустити певні
значення параметрів моделі. Читається навпаки до звичної ймовірності: дані
фіксовані, а змінюються параметри.
Звідки береться функція втрат. Навчання шукає параметри, за
яких правдоподібність найбільша. Логарифм перетворює добуток на суму, а мінус
робить із максимізації мінімізацію — так із правдоподібності виходить
log-loss.
Наскільки зменшується безлад після розрізу: беруть міру безладу до розрізу й
віднімають середньозважений безлад отриманих частин, де вага — частка обʼєктів у
кожній. Дерево на кожному кроці обирає розріз із найбільшим приростом.
Зважування вирішує все. Без ваг вигідним виглядав би розріз,
що відрізає одну чисту крихту й лишає решту як була. Саме тому приріст рахують
середньозважено — і саме тому дерева схильні до ознак із багатьма значеннями: у них
більше кандидатів на поріг.
Третій чинник, який впливає одразу на дві величини й тому створює між ними звʼязок,
хоча одна не викликає другої. Фото на білому тлі корелює з вищою ціною — бо на білому
тлі знімають магазини, а в магазинів і телефони новіші.
Чому це не лікується даними. Звʼязок буде стійким і на
мільйоні прикладів, і на тестовій вибірці — більше даних не перетворює кореляцію на
причину. Відповідає на питання «що станеться, якщо втрутитись» лише експеримент.
Окремий випадок передбачення, у якому відповідь визначається саме положенням у часі.
Розрізнити просто: якщо той самий обʼєкт трапиться через рік, відповідь буде та сама? Так —
це передбачення; ні — це прогнозування, і колонка з датою стає головною.
Наслідок для поділу даних. Перевіряють не на випадкових рядках, а на
останніх у часі: минуле в навчанні, майбутнє в тесті. Випадкове розбиття часового ряду
вбиває задачу — модель прогнозує березень, «знаючи» вересень.
Слід, який точка лишає на прямій, якщо опустити на цю пряму перпендикуляр.
Двовимірна точка перетворюється на одне число — «як далеко вздовж прямої».
Чому це і є стиснення. Замість двох координат лишається одна,
а те, що загубилось, — це довжина перпендикуляра. PCA обирає пряму так, щоб сума
квадратів цих перпендикулярів була найменшою.
Кожна оцінка складається зі справжньої якості моделі й випадкового шуму. Беручи найкращу
з багатьох таких оцінок, ти обираєш не лише найкращу модель, а й найудачливіший шум —
тому найкраща оцінка при підборі систематично завищена.
Від чого залежить величина завищення. Не від кількості перебраних
варіантів, а від кількості незалежних серед них і від шумності самої оцінки.
Гладка сітка по одному гіперпараметру майже безпечна; небезпечно інше — багато незвʼязаних
ручок, мала валідаційна вибірка й шумна метрика.
У просторі багатьох ознак усі точки стають приблизно однаково далекими одна від одної:
найближча майже така сама далека, як найдальша. А якщо найближчий сусід не ближчий за
інших, слово «найближчий» перестає щось означати.
Чому це не лише про швидкодію. Кожна нова ознака додає до відстані ще
один доданок, і окрема відмінність дедалі менше здатна змістити суму. Страждає будь-який
метод, що міряє відстані: kNN, кластеризація, LOF.
Ознака, яка не називає групу прямо, але корелює з нею: поштовий індекс, назва школи,
історія покупок. Прибравши явний стовпець із групою, ти не прибрав інформацію — лише
позбавив себе можливості її виміряти.
Парадоксальний висновок. Щоб контролювати нерівномірність, ознаку
групи треба знати — принаймні на етапі перевірки. Не щоб подавати її в модель, а
щоб рахувати метрики окремо по групах.
Порожнє значення в таблиці. Головне питання не «скільки їх», а «чому саме ці рядки»:
пропуск буває випадковим, повʼязаним з іншими стовпцями або повʼязаним із самим
значенням, якого немає, — і останній випадок найгірший.
Сам факт пропуску буває ознакою. Якщо серед оголошень без ціни
шахрайських більше половини, а серед решти восьма частина, порожнеча несе більше
інформації, ніж багато справжніх колонок. Порядок, який рятує цю ознаку: спершу
колонка-прапорець «значення немає», потім заповнення.
Колонка на кожне значення: у кожному рядку рівно одна одиниця, решта нулі. Нічого про
порядок не стверджується — усі значення рівновіддалені одне від одного, і це чесно.
Платять шириною таблиці.
Найдешевший спосіб стримати модель: стежити за помилкою на валідації після кожної епохи
й припинити навчання, коли вона розвернулась угору, тоді як навчальна ще спадає.
Повертають при цьому найкращі ваги, а не останні.
Терпіння. Крива шумна, і одне випадкове погіршення ще нічого не
означає, тому задають, скільки епох поспіль дозволено не покращувати рекорд. Занадто
нетерплячий сторож спиняє навчання задовго до справжнього дна.
Задача, у якій передбачається довільне значення з великого або неперервного діапазону.
На кожне окреме значення прикладів немає й бути не може, тож знайдена закономірність
поширюється на значення, яких модель не бачила, — саме це поширення й називають регресією.
Обмежити свободу моделі, щоб їй не було чим запамʼятати шум. Найпрозоріший спосіб —
дописати у функцію втрат доданок, що росте разом із вагами: модель платить і за помилку,
і за складність, тож божевільний розвʼязок стає просто невигідним.
Це обмін, а не покращення. Регуляризація купує зменшення
дисперсії ціною збільшення
зміщення, і вигідний він лише до певної межі — за нею
починається недонавчання. Сила штрафу — гіперпараметр, а не константа.
Послаблені [[Equality of Odds|рівні шанси]]: вимагають однакового TPR у групах —
щоб частка прийнятих серед тих, хто справді заслуговує, була однаковою, — і
нічого не кажуть про FPR.
Чому послаблення часто розумне. Дві рівності одночасно
накладають удвічі більше обмежень і коштують точності. Коли ціна пропуску набагато
вища за ціну хибної тривоги — не дати кредит тому, хто його поверне, гірше, ніж
дати тому, хто не поверне, — рівняти варто саме TPR.
Розвідувальний аналіз даних · exploratory data analysis, EDA
Етап, на якому в дані дивляться, перш ніж щось із ними робити, і жодного разу нічого не
змінюють. Це не звітність, а страховка: дірку, помічену зараз, ти виправляєш за годину, а
помічену після навчання — разом з усім, що встиг на ній побудувати.
Функція, що плавно стискає будь-яке число у проміжок від нуля до одиниці, тому її вихід
читається як імовірність. Обрана не тому, що схожа на сходинку, а тому, що вона обернена
до логарифма шансів — логіта.
Чому її вигнали з прихованих шарів. Її похідна ніде не перевищує
чверті, і на десяти шарах градієнт слабшає приблизно в мільйон разів. На виході
бінарної класифікації вона живе спокійно: там вона не множиться багато разів, а в парі з
крос-ентропією ще й скорочується повністю.
Оцінка того, наскільки добре обʼєкт лежить у своєму кластері: порівнює середню
відстань до своїх із середньою відстанню до найближчого чужого кластера. Значення
від −1 до 1, де біля одиниці — «своїм ближче», біля нуля — «на межі», відʼємне —
«чужим ближче, ніж своїм».
Чим кращий за [[Метод ліктя|лікоть]]. Силует має справжній
максимум по k, а не монотонний спад, тож дає число, яке можна порівнювати. ⚠️ Але він
міряє компактність і роздільність, тобто наперед вважає кластерами кулі — на
видовжених або вкладених формах він занижує оцінку правильному розбиттю.
Місце, де градієнт нульовий, але це не дно: в одних напрямках поверхня йде вгору, в
інших — униз. У просторі з мільйоном вимірів сідел незрівнянно більше, ніж локальних ям,
бо для справжньої ями схил має йти вгору в усіх мільйонах напрямків одразу.
Саме тут вирішує адаптивність. Простий спуск множить крихітний
градієнт на крок і ледь повзе; адаптивні методи ділять цей самий градієнт на його ж
власний масштаб і роблять повний крок. На одному й тому самому сідлі — пʼять кроків
проти чотирьохсот вісімдесяти пʼяти.
Спосіб перемножити два набори чисел і дістати одне число: множимо попарно й
складаємо. Для (3, 4) і (2, 1) це
3·2 + 4·1 = 10.
Геометричний зміст. Якщо другий набір задає напрямок довжини 1,
скалярний добуток дорівнює проєкції першого на цей напрямок — тобто «наскільки
далеко вздовж нього» лежить точка. Саме так рахують координати в нових осях
після PCA.
Скоригований індекс Ренда · adjusted Rand index, ARI
Міра схожості двох розбиттів на групи. Дивиться на кожну пару обʼєктів і питає,
чи однаково їх розсадили обидва розбиття. Одиниця — розбиття збігаються, нуль —
схожі рівно настільки, наскільки збіглися б випадкові.
Навіщо «скоригований». Звичайний індекс Ренда дає високі
числа навіть для випадкових розбиттів — просто тому, що більшість пар опиняються в
різних групах в обох. Поправка віднімає цей випадковий рівень, тож нуль означає
«нічого спільного», а відʼємне — «схожі менше, ніж випадкові». ⚠️ Міряє
збіг двох розбиттів, а не якість одного: для цього потрібні мітки або
[[Силует]].
R², з якого віднято поправку за кількість ознак. Потрібен тому, що звичайний R²
ніколи не спадає від додавання ознаки: навіть колонка випадкових чисел дає
моделі трохи більше свободи підлаштуватись. Скоригований — спадає, якщо нова ознака
не окупила своєї ціни.
Де читати обережно. Він міряє лише те, чи варта ознака місця
в моделі на цих самих даних. Питання «чи буде від неї користь на нових» він не
вирішує — на це є валідаційна вибірка.
Модель, яка сама по собі ледь краща за випадкове вгадування. У бустингу учасників
беруть саме такими навмисне — щоб кожен вносив маленьку поправку, а не намагався
розвʼязати задачу поодинці.
Чому сильний учасник тут шкодить. Глибоке дерево підганяється
під власну вибірку, і ланцюжок таких дерев успадковує їхній розкид замість того, щоб
його гасити. Протилежність — беггінг, де учасників беруть навпаки сильними, бо там
їх усереднюють, а не складають.
Стягування кожної ваги до нуля на кожному кроці навчання. Назва пояснюється поведінкою:
ваги поступово спадають, а менші ваги означають менш різкі перепади виходу — тобто менше
острівців навколо окремих точок.
Для Adam це не те саме, що L2. Дописати штраф у функцію втрат і
відняти частку ваги після кроку — для простого спуску тотожні речі. Але
Adam ділить крок на власний масштаб градієнта, і штраф із втрати
проходить крізь це ділення: одне число сили штрафу перетворюється на різну силу для
різних ваг. Оптимізатор, у якому спад ваг реалізовано окремо, зветься AdamW — і значення,
підібране для одного, для другого не годиться.
Частка негативних обʼєктів, яких модель правильно назвала негативними:
TN ÷ (TN + FP). Це дзеркало recall — той рахується по
позитивах, ця по негативах.
Звʼязок із FPR. Специфічність — це рівно
1 − FPR, тому вісь ROC-кривої іноді підписують саме нею.
У медицині цим словом користуються частіше, ніж FPR.
Вимога, щоб модель не ставила одні групи людей у гірше становище за інші. Її не
можна поставити «взагалі»: доводиться обрати яка саме величина має бути
однаковою — частка позначених, частка помилок усередині класів або надійність
позначки.
Головне, що варто винести. [[Демографічний паритет]],
[[Equality of Odds|рівні шанси]] і рівний [[PPV]] одночасно недосяжні, щойно
[[Базова ставка|базові ставки]] груп різні — це теорема, а не брак старання. Тому
вибір означення робить людина, зважаючи на ціну кожної помилки; дані кажуть
лише, скільки цей вибір коштуватиме.
Справедливість через незнання · fairness through unawareness
Спроба зробити модель справедливою, просто прибравши колонку з групою. Найстаріший
і найпоширеніший підхід — і він не працює.
Чому не працює. Група лишається в даних непрямо: район,
імʼя, час подачі, історія покупок. Модель відновлює її з решти колонок як
[[Проксі-ознака|проксі]] — у лекції навіть один поріг на одній ознаці вгадує групу
з точністю 0.86. Гірше того: прибравши колонку, ти втрачаєш можливість
поміряти розрив, тобто позбуваєшся не проблеми, а її вимірювача.
Від кожного значення відняти середнє колонки й поділити на її розкид. Результат читається
як «на скільки розкидів це значення вище або нижче за типове»: нуль — рівно середнє,
одиниця — на один розкид вище.
Альтернатива й чому вона гірша. Мінімакс втискає колонку рівно у
відрізок від нуля до одиниці — виглядає охайніше, але один викид розтягує шкалу так, що
решта даних тисне в кут. Стандартизація теж не любить викидів, але переживає їх
спокійніше.
Наскільки виміряна на тесті якість гуляла б, якби тестова вибірка була іншою. Головний
наслідок — корінь у знаменнику: щоб зменшити похибку вдвічі, вибірку треба збільшити
вчетверо.
Практичне застосування. Перш ніж радіти, що модель A дала 87 %, а
модель B 86 %, порахуй SE. На двохстах обʼєктах похибка близько 2,4 відсоткового пункту —
різниця в один пункт просто не існує.
Наскільки числа розкидані навколо свого середнього. Рахують так: від кожного
віднімають середнє, підносять до квадрата, усереднюють і беруть корінь. Квадрат
потрібен, щоб відхилення в різні боки не гасили одне одного, корінь — щоб повернути
початкові одиниці.
Навіщо воно в порівнянні моделей. Різниця між двома
моделями, менша за розкид їхніх власних результатів по фолдах, — не різниця, а
хитавиця поділу. Квадрат [[Дисперсія|дисперсії]] — це воно і є: дисперсія міряє те
саме, але в квадратних одиницях.
Стеля задачі · task ceiling, best achievable performance
Найкраща якість, яку в принципі можна витиснути з цих даних. Вона існує через
незвідний шум: два оголошення можуть бути однакові за
всіма ознаками й виявитись різними, а того, що не розрізняється в даних, не розрізнить
жодна модель.
Точно не міряється, але оцінюється двома способами. Узгодженість двох
людей, які незалежно розмітили ті самі обʼєкти (орієнтир, і зазвичай завищений: люди
помиляються однаково), або частка однакових обʼєктів із різними відповідями просто в
даних. Найдорожче знання в діагностиці: без стелі не читаються
криві навчання, а «ще трохи» вище за неї — це вже не
поліпшення, а вгадування тестової вибірки.
Рахувати градієнт не по всій вибірці, а по одному прикладу чи невеликій партії — і одразу
робити крок. Оцінка напрямку гірша, зате коштує в сотні разів дешевше, тому за той самий
бюджет виходить у сотні разів більше кроків.
Головний висновок, і він контрінтуїтивний. Гірші кроки, зроблені
частіше, перемагають кращі кроки, зроблені рідко. А шум від вибірковості виявився ще й
корисним сам по собі: він не дає точці застрягти на плато й у дрібних ямках.
Різати не всю вибірку разом, а кожен клас окремо, і брати з нього рівно ту частку, яка
потрібна. Коштує один аргумент, а прибирає цілий клас проблем: при рідкісному класі
випадкове розбиття цілком може лишити тест узагалі без позитивних прикладів.
Дані у вигляді таблиці: рядок — один обʼєкт, колонка — одна ознака, і порядок
рядків нічого не означає. Найпоширеніша форма даних у машинному навчанні поза
зображеннями й текстом.
Перевірка на місці. Якщо рядки можна перемішати й нічого не
зламається — дані табличні. Якщо не можна, бо порядок несе зміст, — це вже часовий
ряд або послідовність, і розбивати їх випадково не можна.
Стовпець, значення якого ми хочемо вміти відновлювати для нових обʼєктів. Головне речення
теми, і воно всупереч інтуїції: таргет — не властивість колонки, а наше рішення. Будь-яку
колонку можна оголосити відповіддю, і задача зміниться повністю.
Правило про залишок. Щойно ти обрав таргет, перевір решту колонок
одним питанням: чи були б вони відомі в момент, коли треба зробити передбачення? Ознака,
якої в цю мить не існує, робить модель чудовою на історії і непридатною в житті.
Твердження про голосування: якщо кожен учасник відповідає правильно з імовірністю
більшою за половину і всі помиляються незалежно, то ймовірність правильної
відповіді більшості росте з кількістю учасників і прямує до одиниці.
Читати треба обидві умови. При точності нижчій за половину
теорема працює у зворотний бік: більшість помиляється дедалі надійніше. А умова
незалежності в ансамблі дерев не виконується — вони вчаться на тих самих
даних. Тому ліс дає значно менше, ніж обіцяє формула, і потрібна
[[Декореляція]].
Теорема про відсутність безкоштовних обідів · no free lunch theorem
Якщо усереднити якість алгоритму по всіх мислимих задачах, усі алгоритми покажуть
однаковий результат. Кожна модель — це припущення про те, як улаштований світ; виграє та,
чиї припущення ближчі до твоїх даних.
Частина даних, яку не бачить ніхто до самого кінця; існує рівно для одного — дати одне
число, яке ніщо не встигло зіпсувати. Торкаються її один раз, після того як усі рішення
вже прийняті.
«А якщо тільки подивитись?» Не буває. Ти подивився й побачив, що
модель провалюється на дорогих телефонах. Далі ти або щось зміниш — і тест зіпсовано, —
або не зміниш, і тоді навіщо дивився.
Нова модель отримує ті самі живі запити, що й чинна, рахує відповідь і записує її в
журнал — але рішення далі ухвалює стара. Ризику для людей нуль, а видно реальну затримку,
реальні збої на реальних даних і відсоток розбіжностей із чинною моделлю.
Перший щабель викату, не заміна виміру. Тінь відповідає лише на
питання «чи вона взагалі працює»; «чи не ламає щось непередбачене» перевіряє
канарковий викат, «чи справді краща» — A/B. Пропустити
щабель можна, але тоді на його питання відповідатимуть користувачі.
Переворот таблиці навколо діагоналі: рядки стають стовпцями. Матриця розміром
3 × 2 після транспонування має розмір 2 × 3, позначається
Xᵀ.
Навіщо це в формулі. Множення можливе лише коли ширина
першої таблиці дорівнює висоті другої. Транспонування — спосіб їх зістикувати:
XᵀX перетворює таблицю будь-якої висоти на квадрат
зі стороною в кількість ознак, і кількість рядків після цього зникає.
Здатність працювати на нових даних, а не на тих, які модель уже бачила. Це єдине, що нас
цікавить, і отримати його оцінку можна лише одним способом — відкласти частину даних
убік і не давати моделі їх бачити.
Імовірність події за умови, що інша вже сталася. Запис
P(A | B) читається «ймовірність A, якщо відомо B», і
рахується як частка B, усередині якої трапилось і A.
Порядок не можна міняти. «Імовірність, що оголошення
шахрайське, якщо в ньому є слово «терміново»» і «імовірність, що в шахрайському
оголошенні є «терміново»» — різні числа. Плутанина між ними — найпоширеніша
помилка в міркуваннях про ймовірність, і теорема Баєса саме про те, як одне
перевести в інше.
Теорема про те, що мережа з одним прихованим шаром скінченної ширини здатна наблизити
будь-яку неперервну функцію з якою завгодно точністю. Звучить як вирок усій подальшій
науці, а на практиці з неї не випливає майже нічого.
Три застереження. Існування потрібних ваг не означає, що спуск їх
знайде. «Скінченна ширина» не сказано яка — для деяких функцій вона росте експоненційно.
І теорема про виразність, а машинне навчання — про
узагальнення: та сама гнучкість дозволяє наблизити й
будь-який шум.
Одна з рівних частин, на які ділять дані під час крос-валідації. При пʼятьох
фолдах модель навчають пʼять разів: щоразу чотири частини йдуть у навчання, а пʼята
служить перевіркою, і кожен обʼєкт побуває перевіркою рівно раз.
Число, яким алгоритм міряє, наскільки погана поточна модель, і від якого бере похідну.
Обирають її не за зрозумілістю людині, а за зручністю для оптимізації: вона має бути
гладкою й мати похідну скрізь.
Ландшафт, а не число. Функція втрат — це ціле поле значень: кожному
набору параметрів відповідає своя висота. Задача навчання формулюється однією фразою —
знайти найнижчу точку цього рельєфу, не бачачи карти.
Середня точка групи: по кожній ознаці беруть середнє значення її обʼєктів.
Реальним обʼєктом центроїд бути не зобовʼязаний — це «типовий представник», якого в
даних може й не існувати.
Чому саме середнє. Воно мінімізує суму квадратів
відстаней до точок групи — тобто рівно те, що й міряє [[Інерція|інерція]]. Якби
міряли суму модулів, найкращою точкою була б [[Медіана|медіана]], і метод звався б
k-медоїдів.
Віднімання середнього від кожної колонки: після нього середнє дорівнює нулю,
а всі значення читаються як «наскільки вище або нижче за типове».
Чому без нього PCA бреше. Метод шукає напрямок найбільшого
розкиду, вважаючи, що хмара точок стоїть навколо початку координат. Якщо хмара
відсунута вбік, найдовшим напрямком виявиться той, що вказує на неї з нуля, —
і перша компонента опише положення хмари, а не її форму.
Замінити кожну категорію середнім значенням таргета всередині неї: одна колонка замість
чотирьохсот, та ще й одразу «корисна». Прийом із вбудованою пасткою, а не просто ще один
спосіб закодувати категорію.
Звідки береться витік. Якщо продавець подав рівно одне оголошення,
«середнє по його оголошеннях» — це буквально таргет цього ж рядка. Ознака з чистої
вигадки за наївного розрахунку виглядає сильнішою за все справжнє: карту «категорія →
число» будують лише за навчальними рядками, а невідомим категоріям підставляють загальне
середнє.
Скільки сумарної винагороди агент очікує отримати далі. Цінність стану відповідає на
питання «наскільки хороша ця ситуація», цінність дії — «наскільки хороша ця ситуація,
якщо спершу зробити ось цю дію».
Чому вчать саме цінність дії. Знаючи лише цінність станів, щоб обрати
дію, треба вміти передбачити, куди вона приведе, — тобто мати модель середовища. Знаючи
цінність дій, обирати просто: бери ту, у якої число найбільше.
Дані, у яких порядок рядків несе зміст: кожен запис привʼязаний до моменту часу,
і сусідні записи повʼязані. Курс валюти по днях, температура по годинах, продажі по
тижнях.
Випадкове розбиття тут заборонене. Воно кладе завтрашній
день у навчання, а вчорашній у перевірку — модель дивиться в майбутнє. Ділити треба
по межі в часі: минуле в навчання, наступний період у перевірку.
Частинна залежність · partial dependence plot, PDP; ICE
Щоб дізнатись, як модель реагує на одну ознаку, ставлять їй одне й те саме значення всім
рядкам вибірки, рахують прогнози й усереднюють. ICE — та сама процедура, але для кожного
рядка окремо, без усереднення.
Дві незручності. Середня крива може не описувати жодного рядка — якщо
криві ICE розходяться сильно, PDP читати вже небезпечно. І гірше: підставляючи ціну
флагмана дешевій моделі, ми питаємо модель про комбінації, яких у даних не бувало.
Параметр, яким детектору аномалій кажуть, яку частку обʼєктів вважати
дивними. Метод сам лише впорядковує обʼєкти за дивністю; де провести межу — рішення
ззовні.
Це не властивість даних, а бюджет перевірки. Поставити 0.01
означає «щодня дивитимусь на сто рядків», а не «аномалій рівно один відсоток». Той
самий важіль і та сама логіка, що у виборі порога для класифікатора.
Кілька нейронів поруч: вони приймають один і той самий вхід, але мають різні ваги, тому
дивляться на дані під різними кутами. Вхідний шар — самі ознаки, приховані шари творять
усю роботу, вихідний формує відповідь під конкретну задачу.
Мовчазна помилка новачків. Забути активацію між шарами. Помилки не
буде, втрата спадатиме, а мережа мовчки виявиться однією прямою — скільки б у ній не було
шарів і параметрів.
Усе, що впливає на відповідь, але не повʼязане з ознаками: подряпина на корпусі,
продавець поспішає, інший поставив ціну із запасом. Шум реальний, він існує — і саме він
непередбачуваний.
Скільки складності можна дозволити. Питання «яка модель складна?» не
має відповіді без даних. Ті самі шістнадцять прикладів при малому шумі виправдовують
многочлен сьомого степеня, а при великому — лише другого.
Точка, навколо якої в радіусі eps лежить щонайменше
min_samples сусідів — рахуючи її саму. З ядерних точок
DBSCAN і вирощує кластери.
Три ролі, і лише одна вирішує. Ядерні точки зʼєднуються між
собою в ланцюжок і задають кластер; [[Гранична точка|граничні]] до нього
доліплюються; решта дістає мітку −1 і зветься шумом. Саме тому DBSCAN уміє кластери
довільної форми — дуги, кільця, змійки, — на відміну від
[[Кластеризація k-means|k-means]], який знає лише кулі.
Тут зібрано терміни, у яких англійська назва прижилась і українського відповідника або
немає, або він гірший за оригінал. Окремий випадок — precision і recall: обидва
українською зазвичай перекладають як «точність», що плутається з accuracy, тому курс свідомо
лишає їх англійськими, а українською описує словами.
A/B-тест · A/B test
Порівняння двох варіантів на живому потоці: частину користувачів обслуговує стара
модель, частину — нова, і різницю міряють на тому самому проміжку часу.
Чому не можна просто порівняти «до» і «після». Між двома
періодами міняється не лише модель: сезон, реклама, склад користувачів. Одночасний
поділ потоку прибирає все це, бо обидві половини живуть в однакових умовах. ⚠️ Різниця
все одно потребує запасу на випадковість — інакше побачиш перевагу там, де її
немає.
Частка правильних відповідей серед усіх. Чесна метрика рівно в одному випадку: коли класи
приблизно однакові за розміром і однаково важливі.
Чому вона бреше. При рідкісному позитивному класі accuracy вимірює
рідкість класу, а не якість моделі. Модель, яка всім підряд пише «здоровий», дає 99,9 %
правильних відповідей і не знаходить жодного хворого. Обидва числа правильні — просто
друге дивиться на клас, заради якого систему й будували.
Перший практичний бустинг: після кожного учасника обʼєктам, на яких помилились,
підвищують вагу, і наступний учасник вчиться переважно на них. Внесок учасника в
підсумок тим більший, чим він точніший.
Різниця з градієнтним бустингом. AdaBoost переставляє ваги
обʼєктів, градієнтний бустинг лишає ваги однаковими, а міняє ціль: наступне
дерево вчиться на залишках. Другий підхід узагальнюється на будь-яку гладку функцію
втрат, тому саме він і витіснив перший.
Оптимізатор, який робить одразу дві речі: згладжує сам градієнт у часі
(момент вирішує, куди йти) і ділить крок на власний масштаб
градієнта кожного параметра (RMSProp вирішує, наскільки довгий крок робити).
Не «завжди найшвидший», а «майже ніколи не катастрофічний». Adam —
розумне замовчування: він працює при майже будь-якому кроці навчання. Але простий спуск
із моментом після налаштування часто дає кращий фінальний результат. Правило: прототип на
Adam, фінальний прогін — на тому, що виграв у чесному порівнянні.
Ймовірність того, що випадково взятий позитивний обʼєкт отримає від моделі вищий скор,
ніж випадково взятий негативний. AUC = 0.89 означає буквально: у 89 випадках зі ста
модель поставить справжньому шахрайству вищий бал, ніж чесному платежу.
Правильний інструмент для одного питання й непридатний для іншого.
AUC не залежить від вибору порогу — тому вона годиться для питання «яка модель краща» і
геть не годиться для питання «який поріг узяти». Значення нижче 0.5 означає не безнадійну
модель, а переплутані знаки.
Brier score · середній квадрат промаху ймовірності
Одне число для якості ймовірностей: береш різницю між оцінкою моделі й фактом (одиниця,
якщо подія сталась, нуль, якщо ні), підносиш її до квадрата й усереднюєш по всіх обʼєктах.
Що менше, то краще.
Є орієнтир, нижче якого немає сенсу. Модель, яка всім підряд називає
саму лише частку позитивних, дає цілком конкретне число — на дошці оголошень теми 21 це
0.2228; усе, що гірше за нього, гірше за повну відмову класифікувати. На відміну від
ECE, Brier міряє одразу дві властивості — і чесність чисел, і
здатність розрізняти, — тому його беруть як єдину оцінку якості ймовірностей.
Кластер — це там, де густо. Метод не рахує центрів узагалі: він нарощує групу від сусіда
до сусіда, куди б ланцюжок не тягнувся, тому знаходить смуги, кільця й підкови, з якими
k-means не впорається.
Уміє казати «не знаю». Точку, яка не потрапила в жодну щільну область,
DBSCAN позначає шумом — і це чесність, а не поразка. Головна вада дзеркальна до переваги:
радіус околу один на весь простір, тож метод припускає, що всі справжні кластери мають
приблизно однакову густину.
На кожному кроці навчання частину нейронів тимчасово вимикають — ставлять їхній вихід у
нуль. Наступного кроку жереб кидається наново. Жоден нейрон не може розраховувати на
конкретного сусіда, тож мережа змушена тримати кілька надлишкових шляхів до відповіді.
Місце, де реалізації помиляються найчастіше. На передбаченні dropout
вимикають — і сигнал одразу стає більшим, ніж той, під який мережа налаштовувалась.
Масштабування обовʼязкове з одного з двох боків. Забудеш — точність майже не зміниться,
а ймовірності стануть систематично заниженими, і ця помилка проживе в проєкті роками.
Одне число, згорнуте з діаграми надійності: середній
розрив між обіцяним і фактичним, зважений за розміром кошика. ECE 0.013 читається
буквально — у середньому модель помиляється у своїх обіцянках на 1.3 відсоткового
пункту.
Дві застороги. ECE залежить від кількості кошиків: ті самі оцінки на
пʼяти кошиках дають 0.013, а на десяти — 0.020, тож порівнювати можна лише числа,
пораховані однаково. І він дивиться тільки на калібрування: модель, яка всім видає ту саму
частку позитивних, має ECE близький до нуля й нульову користь.
Дві рівності одночасно: серед тих, хто справді заслуговує позитивного рішення, шанс його
отримати не залежить від групи; і серед тих, хто не заслуговує, шанс помилково пройти теж
не залежить від групи.
Ліниві розвʼязки. Критерій ідеально виконують дві порожні позиції —
«приймаємо всіх» і «не приймаємо нікого». Тому метрику справедливості завжди читають у
парі з метрикою якості: розрив 0.00 при точності 0.63 гірший за розрив 0.04 при 0.82.
Половина означення, залишена сама, зветься equal opportunity — рівність лише
recall.
F1 і F-beta · гармонійне середнє precision і recall
Одне число замість двох, щоб моделі можна було впорядкувати. Гармонійне середнє, а не
звичайне, бо воно притягується до меншого з двох: модель, яка провалила одну зі сторін,
не має отримувати половину балів.
F-beta — та сама формула з ручкою важливості. Одиниця означає рівновагу,
двійка — recall учетверо важливіший (медичний скринінг, шахрайство), пів — precision
учетверо важливіший (спам-фільтри, автоматичні блокування). І окреме обмеження: у формулі
немає правильно розпізнаних негативних узагалі.
Скільки випадкових розрізів треба, щоб відрізати точку від усіх інших? Точка з гущі
схована серед сотні таких самих, а точка осторонь відлітає з першим-другим розрізом.
Глибина ізоляції, усереднена по сотні дерев, і є оцінкою.
Де ламається. Кожен розріз — умова про одну колонку, тобто лінія,
перпендикулярна до осі. Аномалію, що лежить у «дірці» посеред хмари й не виходить за межі
жодної ознаки окремо, метод бачить погано.
Постав k центрів, припиши кожну точку до найближчого, перерахуй кожен центр як середнє
своїх точок, повтори. Обидва кроки не збільшують інерцію, тому
алгоритм завжди зупиняється за скінченне число кроків.
Дві межі методу. Він зупиняється в першій-ліпшій точці, де нічого вже
не міняється, — це локальний мінімум, і різні старти дають різні відповіді. І кожна точка
йде до найближчого центра, тому межа між кластерами завжди пряма, а сам кластер — приблизно
кругла грудка: вкладені кільця він не розділить жодним k.
Спосіб обрати початкові центри: перший навмання, а кожен наступний — тим
імовірніше, чим він далі від уже обраних. Кластери починають із рознесених точок, а
не з випадкової купки.
Навіщо це потрібно. k-means збігається до локального
мінімуму, і невдалий старт дає стійко гірше розбиття. k-means++ зменшує ризик, але не
прибирає його — тому алгоритм усе одно перезапускають кілька разів
(n_init) і беруть найкраще.
Щоб оцінити новий обʼєкт, знайди k найсхожіших зі знайомих і подивись, чим виявились вони:
для класів — голосуванням, для чисел — середнім. Ніякої іншої ідеї всередині немає, а
моделлю працює сама таблиця.
Величина 1/k — це складність моделі. Один сусід дає рвану межу, що
повторює кожну випадковість архіву; надто велике k стирає дрібні згустки. І прогноз
регресії ніколи не вийде за межі найдешевшого та найдорожчого прикладу архіву —
екстраполювати kNN не вміє принципово.
Спосіб порівняти два розподіли одного числа: береться найбільша розбіжність між
їхніми накопиченими частками. Нуль означає, що розподіли збігаються; що ближче до
одиниці, то менше в них спільного.
Пара до [[PSI]]. Обидва міряють, наскільки сьогоднішні дані
відрізняються від тих, на яких училась модель, і обидва не потребують міток. KS бере
найбільший розрив, PSI підсумовує розбіжність по кошиках. ⚠️ Жоден із них не каже, що
якість упала: дані можуть змінитись без шкоди, а можуть не змінитись — і зіпсуватись
саме мітки.
Штраф — сума модулів ваг. Наслідок якісно інший, ніж у L2: частина ваг стає точно нулем,
тобто модель заодно й безкоштовно робить відбір ознак.
Чому модуль обнуляє, а квадрат ні. Похідна квадрата біля нуля зникає —
тиск слабшає рівно тоді, коли вага вже майже там. Похідна модуля стала завжди, тож вона
доводить вагу до нуля й тримає її там: ознака, що пояснює дані слабко, просто не окупає
власного штрафу.
Штраф — сума квадратів ваг. Чим більша вага, тим сильніше її тягне до нуля, тож метод
нещадний до розгону й майже байдужий до дрібниць. Стискає всі ваги, але не обнуляє
жодної: у моделі лишаються всі ознаки, просто кожна звучить тихіше.
Без спільного масштабу не працює. Штраф однаковий для всіх ваг і не
питає, у чому виміряна ознака. Перепиши ту саму ознаку в тисячу разів дрібніших одиницях —
її внесок у штраф впаде в мільйон разів, а модель не зміниться ні на гривню. Тому перед
будь-якою регуляризованою моделлю ознаки зрівнюють.
Число, що задає, наскільки великий крок робити. Похідна дає лише напрямок і крутизну, а
довжину кроку призначаєш ти — і це найважливіший гіперпараметр усього градієнтного
навчання.
Дві катастрофи й вузьке вікно між ними. Замалий крок працює правильно,
просто повзе. Завеликий перестрибує дно й опиняється вище, ніж був, — далі похідна більша,
крок довший, і все вибухає. Залежність не монотонна: спершу швидшає, потім різко гіршає.
Як це зветься в курсі. Канонічна назва одна — швидкість навчання:
так термін уведено в темі 13, і це буквальний переклад rate. Варіант «крок навчання»
ще трапляється як синонім, але покладатися на нього не варто: слово крок у курсі вже
означає одну ітерацію спуску («за 40 кроків», «на кожному кроці»), тож «зменши крок
навчання» читається двозначно. Зустрівши «крок навчання», читай його як швидкість навчання.
Навколо потрібної точки генерують хмару схожих рядків, питають у складної моделі прогноз
для кожного й навчають на цій хмарі просту зважену лінійну модель. Її коефіцієнти й
подають як пояснення.
Головна вада — нестабільність. Хмара генерується випадково, і два
запуски на тому самому рядку можуть дати різні, іноді суперечливі пояснення. Для розмови
з регулятором, якому потрібне відтворюване пояснення, це дискваліфікація.
LOF · local outlier factor, локальний фактор викиду
Питання не в тому, наскільки далеко сусіди, а в тому, наскільки далі, ніж у самих сусідів.
У щільному районі порожнеча помітна, у розрідженому вона норма — і саме тому в назві стоїть
слово «локальний».
Прийом, який дозволяє скласти дуже малі ймовірності, не втративши їх. Замість
того щоб перемножувати числа, які швидко стають нулем, працюють із їхніми
логарифмами, а перед піднесенням до експоненти віднімають найбільший із них.
Проти чого це. Сто ймовірностей по 0.01 у добутку дають
10⁻²⁰⁰ — число, менше за найменше, яке комп'ютер уміє зберігати, тож воно стає
рівно нулем (недоливання, underflow). Після віднімання максимуму найбільший
доданок дорівнює одиниці, і решта не переповнює нічого.
MAE · mean absolute error, середня абсолютна помилка
Візьми помилку кожного обʼєкта, забудь про знак, порахуй середнє. Головна перевага — її
можна прочитати вголос людині, яка ніколи не чула про машинне навчання: «модель
помиляється в середньому на 600 гривень».
Питання, на яке вона відповідає. «Наскільки модель помиляється
зазвичай». Кожна гривня промаху важить однаково, тож MAE стійка до викидів — і
водночас позбавлена здатності бити тривогу через одну катастрофу.
MAPE і SMAPE · середня абсолютна відсоткова помилка
Помилку кожного обʼєкта ділять на його власне значення й аж потім усереднюють — так
промах у 600 гривень на телефоні за 12 000 і на телефоні за 1 500 перестає бути тим самим.
Де вона бреше — систематично. Маленький знаменник роздуває дешеві
товари; нуль ламає її повністю (не «велика», а не існує); і вона несиметрична —
карає завищення сильніше за заниження, тож модель, яку вчать під MAPE, тихо навчається
занижувати. SMAPE перекошено в інший бік, а не полагоджено.
MDI · mean decrease in impurity, важливість за приростом чистоти
Рейтинг важливості ознак, який дерева віддають безкоштовно: скільки безладу сумарно
прибрали розрізи по цій ознаці. Дивитись першим зручно, приймати рішення на ньому одному —
ні.
Дві відомі вади. Він завищує ознаки з великою кількістю різних
значень — у неперервної колонки просто більше кандидатів на поріг. І рахується на
навчальних даних, тому щедро оплачує розрізи, зроблені по шуму: чистий випадковий код на
1200 значень MDI піднімає на третє місце з семи.
Медіанна абсолютна помилка: беруть модулі всіх промахів і дивляться, який стоїть
посередині. Показує типовий промах — той, який трапляється в половині випадків.
Пара до MAE. MAE — середній промах, MedAE — серединний.
Велика різниця між ними означає, що в даних є кілька дуже великих промахів; рівні
між собою — що помилки однорідні.
MSE і RMSE · середня квадратична помилка й корінь із неї
Замість модуля беруть квадрат помилки. MSE читається погано — вона в «гривнях у
квадраті», такої одиниці не існує; корінь повертає число в гривні, і виходить RMSE:
«типовий промах моделі — близько 700 гривень».
Питання, на яке вона відповідає. «Наскільки страшно модель
помиляється іноді». Квадрат карає великі промахи непропорційно: помилка в
12 разів більша коштує в 144 рази дорожче. Для звіту незамінна RMSE, для навчання беруть
MSE — вона гладка, має похідну всюди й дешевша в обчисленні.
Приблизно третина обʼєктів не потрапляє в бутстреп-вибірку конкретного дерева. Зібравши
для кожного обʼєкта голоси лише тих дерев, які його не бачили, отримаємо чесну оцінку
якості — без окремої відкладеної вибірки й без повторного навчання.
Коли OOB бреше. Якщо в даних є групи повʼязаних записів — кілька
транзакцій одного клієнта, кілька знімків одного пацієнта, — бутстреп розкидає їх, і
«невидимий» обʼєкт насправді майже дублює побачений.
Частка справжніх позитивних серед тих, кого модель позначила. Це те саме число,
що [[precision]], — інша назва тієї самої величини.
Навіщо друга назва. У розмові про справедливість
порівнюють PPV між групами: чи однаково можна вірити позначці моделі, хоч би
до якої групи належав обʼєкт. ⚠️ Зрівняти PPV і водночас
[[Equality of Odds|рівні шанси]] неможливо, коли [[Базова ставка|базові ставки]]
груп різні.
Якщо модель сказала «так», наскільки ймовірно, що вона має рацію. Метрика довіри до
сигналу: важлива там, де хибна тривога дорого коштує — важливий лист у теці «спам»,
безпідставно заблокована картка.
Чому назва лишена англійською. Українською precision зазвичай
перекладають як «точність» — і це плутається з accuracy, теж
«точністю». Курс уживає англійську назву, а українською описує словами. І окремо:
precision не визначена, коли модель не зробила жодного позитивного прогнозу, —
це відсутність відповіді, а не поганий результат.
PR-крива · precision-recall curve; average precision, AP
Залежність precision від recall, у якої кожна точка — один поріг. Площу під нею
називають average precision — чесний підсумок якості ранжування, що не залежить від
вибору порогу.
Коли брати її, а не ROC. Базовий рівень PR-кривої дорівнює частці
позитивних і повзе вниз разом із нею. Тому вона бачить дисбаланс саме там, де ROC сліпа:
precision змішує обидва класи в одному знаменнику, а обидві осі ROC лежать усередині
свого класу.
Частка справжніх знахідок серед перших k рядків списку, впорядкованого за
оцінкою моделі. Дев'ять шахрайських оголошень серед двадцяти перевірених — це
precision@20 = 45 %.
Чому саме вона в задачах без міток. Розмітити всю дошку
неможливо, а перші двадцять рядків людина перегляне за пів години — і це вже чесне
число. ⚠️ Але воно говорить лише про початок списку: скільки аномалій метод
проґавив, precision@k не каже нічого, і для повноти потрібна випадкова
вибірка, розмічена окремо.
PSI · population stability index, індекс стабільності популяції
Міра того, наскільки поїхав розподіл ознаки. Стару вибірку ріжуть на десять кошиків так,
щоб у кожен потрапило по 10 % значень, розкидають по тих самих кошиках свіжі значення й
підсумовують, наскільки частки розійшлись. Мітки для цього не потрібні взагалі — саме тому
PSI видно того ж дня, коли зсув стався.
Пороги — звичка галузі, а не закон природи. 0.10 — варто подивитись,
0.25 — зсув значний; для конкретної системи їх підбирають на історії. І бачить PSI лише
дрейф даних: дрейф
концепції руйнує модель при незмінному розподілі ознак, а сигнал без порога, на який
ніхто не дивиться, — це не моніторинг.
Табличний алгоритм навчання з підкріпленням: після кожного кроку оцінку цінності дії
зсувають у бік того, що показала реальність. Форма оновлення дослівно та сама, що й у
багаторукого бандита, — «оцінка плюс крок помножити на несподіванку».
Оптимізатор, який ділить крок для кожної ваги на корінь із накопиченого середнього
квадратів її градієнтів. Ваги з великими градієнтами отримують менший крок, з
малими — більший.
Місце в родоводі. [[Момент]] накопичує напрямок,
RMSProp — масштаб. [[Adam]] це буквально обидва прийоми разом плюс
[[Поправка на зсув|поправка на зсув]]; тому й пояснювати його простіше як суму двох
відомих ідей, а не як окремий метод.
Метрика без одиниць, яка порівнює модель із найдурнішою можливою — з такою, що завжди
називає середнє. Одиниця означає ідеальне влучання, нуль — «модель рівно така сама, як
середнє», відʼємне значення — «гірша за середнє», і це трапляється легко.
Дві пастки. R² майже ніколи не спадає, коли додаєш нові ознаки —
навіть коли ознака є чистим шумом; тому моделі з різною кількістю ознак чесно порівнювати
лише за скоригованим R². І він рахується відносно середнього тієї вибірки, на якій
ти міряєш: візьми тест із вужчим розкидом — і число впаде, хоч модель не змінилась.
Яку частку справжніх позитивних випадків модель узагалі помітила. Метрика повноти
охоплення: головна там, де пропуск катастрофічний — невиявлена пухлина, незнайдений
дефект, шахрайський переказ, що пройшов.
Симетрія, заради якої їх наводять парою. Precision штрафується за
хибні тривоги, recall — за пропуски. Кожна бачить рівно один вид помилки й повністю
ігнорує другий, тому окремо взяте будь-яке з цих чисел легко зробити ідеальним.
Найпростіша можлива нелінійність: обрізати все відʼємне нулем. Похідна на додатній
півосі дорівнює рівно одиниці — не «близько одиниці в найкращій точці», а одиниці
скрізь, тому ланцюг градієнта перестає гаснути з глибиною.
Мертвий ReLU. Нейрон, у якого зважена сума відʼємна на всіх прикладах,
більше не отримує градієнта — і не отримує його саме тому, що не оновлюється. Коло
замикається назавжди. Убиває нейрони завеликий крок навчання, і метрики цього не покажуть,
доки мертвих не стане більшість.
Траєкторія точки з координатами FPR і TPR, коли поріг пробігає
всі значення. Це не одна модель, а всі її можливі рішення одночасно — від «мовчати
завжди» до «блокувати все».
Три орієнтири форми. Лівий верхній кут — існує поріг, за якого немає
жодної помилки. Діагональ — випадкове вгадування. Нижче діагоналі — не безнадійна модель,
а переплутані знаки: поміняй прогноз на протилежний, і крива віддзеркалиться.
Бере кілька чисел, робить їх усі додатними й нормує так, щоб вони сумувалися в одиницю, —
тобто перетворює виходи мережі на справжній розподіл імовірностей по класах.
Головне слово — «сумуються». Підняти ймовірність одного класу можна
лише опустивши інші. Для задачі «одна правильна відповідь із десяти» це саме те, що треба;
для задачі «які з десяти тегів підходять статті» — шкода, бо теги не змагаються, і там
ставлять окрему сигмоїду на кожен вихід.
Нелінійні способи вкласти багато ознак у площину: вони зберігають не загальний розкид, як
PCA, а сусідство — щоб точки, близькі у вихідному просторі, лишились близькими й на
малюнку. Групи на їхніх картинках виглядають набагато виразніше.
Ціна, про яку часто мовчать. Вони не дають перетворення: PCA видає
формулу, яку можна застосувати до нового обʼєкта хоч через рік, а тут для нової точки
доведеться рахувати все заново. І відстані між далекими групами на таких картинках нічого
не значать. Правило: t-SNE та UMAP — для очей, PCA — для конвеєра.
Активація, схожа на сигмоїду, але з виходом від −1 до 1 і центром у нулі. Її
похідна не перевищує одиниці, тоді як у сигмоїди — 0.25.
Чому центр у нулі важить. Виходи сигмоїди завжди додатні,
тож градієнти всіх ваг нейрона мають однаковий знак і крок іде зиґзаґом. tanh цього
не має. ⚠️ Але від [[Згасання градієнта|згасання]] це рятує лише частково: на краях
похідна так само прямує до нуля, і в глибоких мережах його витіснила
[[ReLU]].
Дві частки, на яких тримається ROC. TPR — частка спійманих серед усіх справжніх
позитивів (те саме, що recall). FPR — частка хибних тривог серед
усіх справжніх негативів. Доповнення до FPR зветься специфічністю (specificity) — це
здатність моделі не піднімати тривогу даремно.
Уся суть — у знаменниках. Кожна рахується всередині свого справжнього
класу, тому жодна не знає, скільки в даних тих і тих. Саме тому ROC не змінюється, коли
міняється співвідношення класів, — і саме тому вона нічого не каже про те, скільки сміття
доведеться розгрібати.
training/serving skew · розбіжність між навчанням і бойовим застосуванням
Одна й та сама ознака рахується двома різними способами: одним у зошиті, іншим у сервісі.
Модель у бою бачить не ті числа, на яких її навчали, — і робить не ті висновки.
Не дрейф і не витік, хоч схоже на обидва. Skew присутній із першого ж
дня роботи, до будь-якого дрейфу; від
витоку даних він відрізняється місцем збитку — витік підробляє
число у звіті, skew підробляє роботу системи. У темі 31 через нього зошит обіцяв F1 0.725,
а система дала 0.614. Єдиний надійний запобіжник — одна функція, яку викликають і зошит,
і сервіс: щойно та сама формула живе у двох місцях, вони починають розходитись.
Чого тут немає. Понять, які курс лише згадує, не пояснюючи, —
автоенкодера, HDBSCAN, методу опорних векторів, трансформера. Вони названі в тексті як
орієнтири «куди дивитись далі», а не введені, тож і місця в глосарії їм немає.