Що таке нейромережа (нейронна мережа)?

Нейромережа — це математична модель із шарів повʼязаних між собою «нейронів», кожен з яких множить вхідні числа на ваги й передає результат далі. Навчання нейромережі — це підбір мільйонів таких ваг, щоб вихід моделі збігався з правильною відповіддю.

Кожен окремий нейрон виконує елементарну операцію. Сила підходу — у глибині: коли шарів багато, ранні шари вловлюють прості ознаки (краї, штрихи, окремі склади), а пізні збирають із них складні поняття (обличчя, зміст фрази). Навчання мереж із великою кількістю шарів і називають глибоким навчанням (deep learning).

Нейромережі сьогодні стоять майже за кожним помітним AI-продуктом: розпізнаванням мовлення, генерацією зображень, мовними моделями. Різні архітектури розвʼязують різні задачі — наприклад, трансформери добре працюють із послідовностями на кшталт тексту.

Повʼязані терміни

Machine Learning

Машинне навчання (Machine Learning, ML) — це підхід до створення програм, за якого модель виводить правила з даних сама, замість того щоб розробник прописував їх вручну. Розробник готує дані та обирає алгоритм, а закономірності модель знаходить у процесі навчання.

Transformer

Трансформер — це архітектура нейромережі, на якій побудовані всі сучасні мовні моделі. Її ключова ідея — механізм уваги (attention): обробляючи кожне слово, модель одночасно дивиться на всі інші слова тексту й вирішує, які з них важливі для розуміння.

Штучний інтелект (AI, ШІ) — це галузь компʼютерних наук і набір технологій, які дозволяють програмам розвʼязувати задачі, що зазвичай потребують людського мислення: розпізнавати образи, розуміти текст, робити прогнози та ухвалювати рішення.

Embedding

Ембединг — це представлення тексту, зображення чи іншого обʼєкта у вигляді вектора чисел, у якому близькі за змістом обʼєкти опиняються поруч. Саме ембединги дозволяють компʼютеру порівнювати документи за змістом, а не за збігом слів.

Fine-tuning

Fine-tuning — це донавчання вже готової моделі на власному наборі прикладів, щоб вона засвоїла потрібний стиль, формат відповіді чи вузьку предметну специфіку. Ваги моделі при цьому змінюються — виходить ваша власна версія моделі.