Виртуальная песочница: Зачем учиться с нуля?
Вы только что купили новенького робота-помощника. Вам нужно, чтобы он умел прокладывать маршруты через опасные астероидные поля.
Вы могли бы посадить его в корабль и позволить ему разбиться 10 000 раз, пока он не научится летать. Но корабли стоят дорого. В качестве альтернативы вы можете воткнуть кабель ему в затылок и мгновенно загрузить модуль «Базовая физика и полеты», созданный кем-то другим. Теперь ваш робот уже умеет летать; ему нужно всего пару часов в виртуальной симуляции, чтобы изучить особенности конкретно вашего астероидного поля.
Добро пожаловать в виртуальную песочницу.
Сценарий
Создание ИИ с нуля требует огромного количества данных, времени и вычислительных мощностей. Это все равно, что учить ребенка читать, заставляя его сначала изобрести алфавит.
Вместо того чтобы начинать с нуля, умные инженеры берут ИИ, который уже был обучен на гигантских наборах данных технологическими корпорациями с неограниченными бюджетами. Этот «предобученный» ИИ уже понимает фундаментальные законы вселенной (или языка, или визуального мира).
Реальность
В глубоком обучении (Deep Learning) это называется трансферным обучением (Transfer Learning).
Вместо того чтобы с нуля обучать нейросеть распознавать космические корабли, вы скачиваете модель, которая уже месяцами разглядывала миллионы случайных картинок в интернете. Она уже знает, как выглядят «границы», «круги» и «металлические текстуры». Она уже усвоила концепцию зрения.
Все, что вам остается сделать — это «дообучить» ее (fine-tuning). Вы показываете ей несколько тысяч фотографий космических кораблей, и она адаптирует свои общие знания к вашей конкретной задаче за малую долю времени.
Почему это важно
Трансферное обучение — это то, что делает ИИ доступным для обычных компаний. Вам не нужен суперкомпьютер за миллиард долларов или набор данных из 100 миллионов изображений. Вы просто берете базовый, тяжеловесный интеллект, созданный другими, и тратите небольшие деньги на его адаптацию под вашу конкретную миссию.
Главное
Никогда не начинайте с чистого листа. Если кто-то другой уже обучил ИИ законам физики, спишите его домашнюю работу. Загрузите навыки и пропустите рутину.
Специалисты называют это: Transfer Learning & Pre-training (Трансферное обучение и предобучение) Трансферное обучение включает в себя использование модели, обученной на большом общем наборе данных (предобучение), и обновление ее параметров на меньшем, специфичном для вашей задачи наборе данных (дообучение). Это кардинально снижает объем данных и вычислительных мощностей, необходимых для создания качественного ИИ.
💬 Вы когда-нибудь пытались создать что-то с нуля, а потом понимали, что могли бы просто использовать готовый шаблон?
Часть 14 (Виртуальная песочница) из 20 | #DLLifecycleForHumans #ai_edu На основе лекций CS230 Stanford