Що таке нейромережа (нейронна мережа)?
Нейромережа — це математична модель із шарів повʼязаних між собою «нейронів», кожен з яких множить вхідні числа на ваги й передає результат далі. Навчання нейромережі — це підбір мільйонів таких ваг, щоб вихід моделі збігався з правильною відповіддю.
Кожен окремий нейрон виконує елементарну операцію. Сила підходу — у глибині: коли шарів багато, ранні шари вловлюють прості ознаки (краї, штрихи, окремі склади), а пізні збирають із них складні поняття (обличчя, зміст фрази). Навчання мереж із великою кількістю шарів і називають глибоким навчанням (deep learning).
Нейромережі сьогодні стоять майже за кожним помітним AI-продуктом: розпізнаванням мовлення, генерацією зображень, мовними моделями. Різні архітектури розвʼязують різні задачі — наприклад, трансформери добре працюють із послідовностями на кшталт тексту.
Де застосовується
Нейромережі застосовують там, де правила складно сформулювати словами: розпізнавання облич і номерів, розшифровка мовлення, переклад, медична діагностика за знімками, виявлення дефектів на виробничій лінії, генерація тексту й зображень.
На практиці їх рідко створюють з нуля. Частіше беруть готову попередньо навчену мережу і донавчають на своїх даних — це потребує у сотні разів менше прикладів і обчислень. Працюють зазвичай на PyTorch або TensorFlow, а для навчання орендують відеокарти у хмарі замість купівлі обладнання.
Приклад
Щоб відрізнити кота від собаки на фото, неможливо прописати правила: забагато ракурсів, порід і освітлення. Нейромережа натомість налаштовує мільйони ваг за розміченими прикладами і починає впізнавати ознаки, які людина навіть не змогла б перелічити.
Часті запитання
Як нейромережа навчається?
Вона отримує приклад, видає відповідь, порівнює її з правильною і обчислює помилку. Потім алгоритм зворотного поширення трохи коригує ваги в бік зменшення цієї помилки. Цикл повторюється мільйони разів — так модель поступово налаштовується.
Що таке глибоке навчання?
Навчання нейромереж із великою кількістю шарів. Кожен наступний шар працює з абстрактнішими ознаками: перші розрізняють лінії та краї, середні — частини обʼєктів, останні — обʼєкт цілком. Саме глибина дала прорив у розпізнаванні зображень і обробці мови.
Чому нейромережі називають «чорною скринькою»?
Бо рішення закодоване в мільйонах числових ваг, а не в зрозумілих правилах. Пояснити, чому модель видала конкретну відповідь, складно. Для регульованих сфер на кшталт кредитування це проблема, і існують окремі методи інтерпретації рішень моделі.
Чи потрібна потужна відеокарта для роботи з нейромережами?
Для навчання великих моделей — так, і зазвичай її орендують у хмарі. Але застосування готової моделі часто обходиться звичайним процесором, а для навчання невеликих мереж на навчальних даних вистачає безплатних хмарних блокнотів на кшталт Google Colab.