Что такое нейросеть (нейронная сеть)?

Нейросеть — это математическая модель из слоёв связанных между собой «нейронов», каждый из которых умножает входные числа на веса и передаёт результат дальше. Обучение нейросети — это подбор миллионов таких весов, чтобы выход модели совпадал с правильным ответом.

Каждый отдельный нейрон делает элементарную операцию. Сила подхода — в глубине: когда слоёв много, ранние слои улавливают простые признаки (края, штрихи, отдельные слоги), а поздние собирают из них сложные понятия (лица, смысл фразы). Обучение сетей с большим числом слоёв и называют глубоким обучением (deep learning).

Нейросети сегодня стоят почти за каждым заметным AI-продуктом: распознаванием речи, генерацией изображений, языковыми моделями. Разные архитектуры решают разные задачи — например, трансформеры хорошо работают с последовательностями вроде текста.

Связанные термины

Machine Learning

Машинное обучение (Machine Learning, ML) — это подход к созданию программ, при котором модель выводит правила из данных сама, вместо того чтобы разработчик прописывал их вручную. Разработчик готовит данные и выбирает алгоритм, а закономерности модель находит в процессе обучения.

Transformer

Трансформер — это архитектура нейросети, на которой построены все современные языковые модели. Её ключевая идея — механизм внимания (attention): обрабатывая каждое слово, модель одновременно смотрит на все остальные слова текста и решает, какие из них важны для понимания.

Искусственный интеллект (AI, ИИ) — это область компьютерных наук и набор технологий, которые позволяют программам решать задачи, обычно требующие человеческого мышления: распознавать образы, понимать текст, делать прогнозы и принимать решения.

Embedding

Эмбеддинг — это представление текста, изображения или другого объекта в виде вектора чисел, в котором близкие по смыслу объекты оказываются близко друг к другу. Именно эмбеддинги позволяют компьютеру сравнивать документы по смыслу, а не по совпадению слов.

Fine-tuning

Fine-tuning — это дообучение уже готовой модели на своём наборе примеров, чтобы она усвоила нужный стиль, формат ответа или узкую предметную специфику. Веса модели при этом меняются — получается ваша собственная версия модели.