Тенденции и направления развития ИИ от одного из разработчиков OpenAI

Илья Суцкевер – соучредитель и главный ученый OpenAI в одном из публичных интервью поделился очень интересными мыслями о возможном развитии ИИ, а также рассказал про методику и философию, лежащую в основе моделей исrусственного интеллекта. Кое-что при первом просмотре видео может показаться совсем непонятным, а в некоторых местах Илья на мой взгляд явно что-то не договаривает :) Но, например, он считает, что уже в ближайшем будущем люди будут интегрироваться с ИИ (а не наоборот). Как вам идея? Что еще из ключевого я услышал, записал и структурировал? Читайте, если лень тратить полтора часа на просмотр интервью…

Методика ИИ

• Уже сейчас большая часть данных для обучения ИИ поступает не от людей.
• Разработчики изучают и пытаются имитировать реальную нейрофизиологию человека и дофаминовое подкрепление в частности.
• “Они плохи в умственных многошаговых рассуждениях, когда им НЕ РАЗРЕШАЮТ ДУМАТЬ ВСЛУХ, но когда разрешают, они хороши”.
• Разработчики ии предполагают, что “токены для обучения в какой-то момент закончатся” (имхо, бред).
• “Хочется использовать токены, которые говорят о более умных вещах” (к вопросу о том, к чему приводит обучение на соцсетях и тп).
• Основное обучение происходит за счет масштаба и новых данных, оборудование уже не проблема.
• Разработчики не полностью понимают сами до сих пор, как это все работает.
• Вся моя карьера – новое понимание очень старых вещей.
• Становится все проще обучать нейронные сети (производительность выросла, не нужно оптимизировать код).
• Происходят попытки обучить нейросеть без обратного распространения ошибки (по сути имитация мозга реального человека)- алгоритм “вперед, вперед”.

Философия ИИ

• Новые идеи важны, но важнее понимать существующие идеи и что происходит (“что будет, если сделать это” vs “что это из себя представляет, каковы базовые механизмы”) – к вопросу об экспертизе.
• “Вопрос в том, как связаны точность предсказания следующего слова с возможностью делать логический вывод – я верю, что связь существует”.
• Прогресс происходил, когда возникало понимание нового привлекательного свойства.
• “В какой-то момент мы перестаем опираться на человека как пример существования интеллекта”.
• “Как определить какое поведения людей действительно важно, а какое является просто случайным проявлением чего-либо базового? Нам нужно сосредоточиться на нашем представлении об основах. “

Прогнозы развития ИИ

• ИИ будут развиваться как системы прогнозирования.
• Некоторые люди решат стать частью ИИ (прогноз).
• ИИ сможет управлять обществом.
• 7 лет назад он сам до конца не верил собственным прогнозам по развитию ии, которые тем не менее сбылись (по его словам).
• ИИ будут дифференцироваться и входить во все услуги, в том числе дифференциация будет происходить по цене (типа дешевые ии – массовые дешевые услуги-заменители, дорогие ии – специализированные дорогие услуги); модели ии могут стать товарами.
• У ИИ будут появляться новые свойства.
• Люди могут стать “ходячими токенами”, ИИ могут начать развиваться как личности.
• “Я бы не стал недооценивать сложность согласования моделей, которые на самом деле умнее нас. Моделей, которые способны искажать свои намерения” (к вопросу о паразитических стратегиях и не только – смотрите отдельную рубрику с материалами на этом сайте).

Посмотреть видео: