Ура! Я сделал это. Это было непросто. На этот курс ушло больше времени, чем я изначально рассчитывал. Во-первых, работа отнимает много времени. А во-вторых… То, что во-вторых, объяснить сложнее. Я пересматривал материал по многу раз, несколько раз начинал сначала, читал другие источники и пытался выяснить у ИИ-моделей, как они это понимают. Не могу утверждать, что мне удалось глубоко проникнуть в суть темы, но по крайней мере «анатомию», надеюсь, ухватил.

Курс по машинному обучению я отложил, потому что там было много формул. Подумал, что, переключившись на нейросети, избавлюсь от этой математики. Как же я был наивен. Формул стало в разы больше. По сути, сеть — это слоёный пирог из нескольких моделей, которые обучаются как единый организм. Стало не проще, а сложнее. Те же градиенты, спуски, точки минимума, производные, веса, выборки, нормализации и куча всего остального. Только к ним добавились функции активации, промежуточные нормализации, регуляризация связей. Хотя базовые концепции пересекаются. Так что по сложности они, наверное, друг другу не уступают, просто решают разные задачи.

Теперь про то с чем связано «во-вторых».
Понимаю, что автор курса — профессор, и он крут в математике. Свои объяснения он иллюстрировал формулами. И да, я понимаю: профессору математики достаточно одного взгляда на формулу, чтобы понять суть происходящего. Но я не математик, и становиться им сейчас мне не резон. Поэтому я глядел на все эти формулы как баран на новые ворота.

Например, что такое функция потерь, зачем она нужна и как работает — я понял. В курсе для иллюстрации приводится формула: «сумма квадратов разницы между предсказанием и целью». Все поняли, что я тут написал? Если нет, то я тоже. А что именно эта формула делает? Как она работает? Почему используется именно она и именно здесь? Математик одним взглядом получает ответы на все эти вопросы, а остальные — нет. Хуже того, для меня формула не создаёт «ассоциативного узла» в памяти. Из-за этого я часами беседовал с ИИ-моделями (живого специалиста для консультаций у меня пока нет), чтобы прояснить эти моменты и найти образ, за который может зацепиться память.

Попробую объяснить функцию потерь без формул и не потерять сути:
– Сеть выдала результат, но он не соответствует ожидаемому.
– Мы просим её посчитать, насколько её предсказание отличается от цели по каждому примеру из выборки.
– Получившиеся отклонения будут как в плюс, так и в минус: где-то сеть переборщила, где-то — недобрала.
– Нам нужно оценить степень ошибки, а она не может быть отрицательной. Избавиться от «минусов» можно, например, умножив каждое отклонение на само себя. Получится положительное число, но это уже не разница, а величина, зависящая от предсказания сети и правильного ответа.
– Чтобы оценить ошибку по всей выборке, все эти величины можно сложить или взять среднюю.
– Теперь, опираясь на эту суммарную величину, можно понять, насколько сеть близка к желаемому результату.
Представляете? И всё! Мы просто смотрим на итоговое число и говорим: «Модель далека от истины» или «Почти у цели».
Да, формула короче моих объяснений, но понимание сути она даёт только математикам. К тому же формулы могут быть разными. Но суть того, что они делают, должна оставаться неизменной.

Получается, моя главная проблема была в том, что для понимания сути не хватало наглядных иллюстраций. Да, принято объяснять нейросети через математику, но позвольте заметить: это можно сделать и без неё. Так что я сделал вывод: математики устроили профессиональную дискриминацию. Типа, если ты не умеешь читать формулы, то эта область знаний тебе недоступна, и мы будем править в ней безраздельно.

И ещё печально то, что искусственные сети обучены на этой же парадигме и строят объяснения в том же ключе.

Ещё кое-что. Профессор очень умный и умеет подавать материал живо и нетривиально. Это замечательно при живом общении! Но это же дистанционный курс. Лектору не обязательно зачитывать материал самостоятельно. Можно привлечь человека с отработанной дикцией, без одышки и прочих речевых особенностей. Чтобы материал воспринимался не только интересно, но и приятно. Я ничего не имею против профессора — он очень старался. Но при создании продукта, например фильма, роли разделены между специалистами: один придумывает идею, другой решает, как её визуализировать, третий изображает. Здесь, по идее, стоило поступить так же.

Ну что ж. Со строением моделей примерно разобрались. Да, сложно. Но мы не привыкли отступать! Теперь попробую взяться за ПайТорч. Много о нём наслышан. Надеюсь, текущих знаний будет достаточно. А если нет — наверстаем.