«Распространение ИИ представляет собой экзистенциальный вызов, поскольку он является не просто очередной технической инновацией, а мир-технологией», — считает Михаил Просекин, кандидат физико-математических наук, основатель «ИнСитиЛаб», научный руководитель профилей «интеллектуальные энергетические системы» и «технологии беспроводной связи» Национальной технологической олимпиады.
Мир-технология — это такая технология, которая проникает повсеместно и трансформирует наш образ жизни, привычки и возможности. К мир-технологиям можно отнести печатный станок (XV век), двигатель внутреннего сгорания (ДВС, XIX век) и телекоммуникации (XX век). ИИ претендует на то, чтобы стать «замыкающей технологией», подводящей итог индустриальной фазе развития, начавшейся с печатного станка Гутенберга.
Каждая мир-технология подводит когнитивные способности медианного человека к точке бифуркации (критический момент в развитии системы, когда ее дальнейший путь становится неопределенным и может пойти по одному из нескольких вариантов — прим. ред.). До появления мир-технологии существует определенный когнитивный уклад, но затем обязательно формируется повышение требований к когнитивным способностям. Дальнейшее развитие может пойти по двум сценариям.
Каждая мир-технология подводит когнитивные способности медианного человека к точке бифуркации (критический момент в развитии системы, когда ее дальнейший путь становится неопределенным и может пойти по одному из нескольких вариантов — прим. ред.). До появления мир-технологии существует определенный когнитивный уклад, но затем обязательно формируется повышение требований к когнитивным способностям. Дальнейшее развитие может пойти по двум сценариям.
- Сценарий развития. Мы ставим перед собой новые цели, и наши когнитивные способности развиваются с опорой на новую технологию (как это произошло, например, с печатным станком, который привел к всеобщей грамотности и индустриализации).
- Сценарий отката. Мы продолжаем решать старые задачи с помощью новой технологии, и в этом случае когнитивные способности падают, причем достаточно катастрофично (так произошло при переходе к оседлому земледелию).
Искусственный интеллект является кандидатом на откатную технологию
Исторические примеры показывают, как мир-технологии трансформировали человеческие способности. Печатный станок резко увеличил требования к грамотности, скорости чтения и объему усваиваемого не утилитарного знания. Двигатель внутреннего сгорания (ДВС) потребовал перестроить когнитивные способности на высокие скорости и управление на высоких скоростях, а также работы с очень подробными, детальными техническими системами. Телекоммуникации привели к появлению многозадачности и многопоточности, но также и проседанию дисциплины внимания.
Искусственный интеллект является кандидатом на откатную технологию. ИИ потенциально обрушивает когнитивные способности по каждому из трех направлений когнитивной работы человека.
• Текст/Знание
То, что раньше нужно было услышать в церкви (до Гутенберга) или прочитать в книгах, теперь скажет ИИ. Человеку не нужно самому ничего соединять, понимать к чему относиться, восстанавливать и интерпретировать содержание, соотносить разные источники, проверять их на достоверность.
• Скорость/Реакция
Там, где раньше требовалась работа с высокими скоростями (ДВС), появится автопилот, и мы разучимся работать с высокими скоростями. Там, где было важно держать в уме устройство двигателя внутреннего сгорания, коробки передач, теперь нужны только подсказки, AR-очки и так далее.
• Информация/Многопоточность
Там, где раньше требовалось обрабатывать много разных потоков информации (телекоммуникации), ИИ сведет их и даст выжимку, избавляя нас от необходимости работать с потоками. Стремление ИИ-корпораций «переизобрести» браузер, системы бронирования билетов и отелей, все в одно окно.
• Текст/Знание
То, что раньше нужно было услышать в церкви (до Гутенберга) или прочитать в книгах, теперь скажет ИИ. Человеку не нужно самому ничего соединять, понимать к чему относиться, восстанавливать и интерпретировать содержание, соотносить разные источники, проверять их на достоверность.
• Скорость/Реакция
Там, где раньше требовалась работа с высокими скоростями (ДВС), появится автопилот, и мы разучимся работать с высокими скоростями. Там, где было важно держать в уме устройство двигателя внутреннего сгорания, коробки передач, теперь нужны только подсказки, AR-очки и так далее.
• Информация/Многопоточность
Там, где раньше требовалось обрабатывать много разных потоков информации (телекоммуникации), ИИ сведет их и даст выжимку, избавляя нас от необходимости работать с потоками. Стремление ИИ-корпораций «переизобрести» браузер, системы бронирования билетов и отелей, все в одно окно.
Очевидно, что приведенные выше три направления основаны на двух предположениях:
• ИИ-технологии способны решить эти задачи на хорошем уровне. На самом деле на сегодня, конечно, нет, но огромные вкладываемые ресурсы и не только в технологии, но и в формирование общественного мнения о том, что так будет и это неизбежно, о «конце истории», являются огромным фактором для образования, которое тоже работает не только с требованиями настоящего, но и с образом будущего и с отложенным результатом.
• Мы не предполагаем сценария развития, не ставим перед собой новых задач, не пытаемся понять, в чем наши новые возможности, как это было при появлении научной парадигмы Бэкона, как это было при появлении кораблей, способных пересекать океаны и так далее.
Тем не менее нам очень важно рассмотреть сейчас, как сценарий отката, так и сценарий развития. Трансформация неизбежна и нам надо отвечать на нее уже сейчас. Автор статьи убежден, что единственный путь — это путь постановки новых задач и скачка развития когнитивных способностей. Но важно увидеть и текущие эффекты, связанные с обнаружением неэффективности многих когнитивных практик и многих устаревающих (стремительно устаревающих) профессионализмов. Рассмотреть и сценарии «конца истории», так как они очень активно продвигаются. Сценарии замораживания потребностей, того, что нужно оптимизировать существующий образ жизни, что человек достиг предела своей эволюции. Это означает, что, если мы продолжим решать текущие задачи без скачкообразного когнитивного рывка, мы можем вернуться (когнитивно) в ситуацию до Гутенберга, ДВС и телекома, но уже без их плюсов (схема 2).
Социальной жертвой автоматизации всегда, хоть сейчас, хоть 50, хоть 200, хоть 600 лет назад, были профессионалы средней квалификации. Средняя квалификация — это максимально повторяемые и достаточно массовые, то есть хорошо и экономически оправданно автоматизируемые действия. Простой исторический пример: кузнец средней квалификации делает повторяющиеся операции, и эти повторяющиеся операции можно заменить штанцформой и кузнечным прессом. Это целесообразно только, если есть образец, он слабо вариативен, он воспроизводим, под него есть большой типовой спрос.
Социальной жертвой автоматизации всегда, хоть сейчас, хоть 50, хоть 200, хоть 600 лет назад, были профессионалы средней квалификации. Средняя квалификация — это максимально повторяемые и достаточно массовые, то есть хорошо и экономически оправданно автоматизируемые действия. Простой исторический пример: кузнец средней квалификации делает повторяющиеся операции, и эти повторяющиеся операции можно заменить штанцформой и кузнечным прессом. Это целесообразно только, если есть образец, он слабо вариативен, он воспроизводим, под него есть большой типовой спрос.
Теперь давайте рассмотрим текущую ситуация в мире информационных технологий. Парадоксально, но традиционные IT-инструменты — это аналог ручного инструмента в цифровом мире. Они позволяют эффективнее выполнять шаблонные, повторяющиеся операции, например, бронирование билетов, отправка электронной почты, заполнение бухгалтерской отчетности.
Большие языковые модели (LLM), которые сейчас принято называть искусственным интеллектом, уже можно сравнить с аддитивными технологиями. Они обладают способностью к комбинированию существующих решений и могут генерировать множество вариантов кода, текста, дизайна. Главным ограничением ИИ было и остается то, что он не может выйти за пределы онтологии, которая задана деятельностью, на которой он обучен. И здесь надо различать две ситуации.
Большие языковые модели (LLM), которые сейчас принято называть искусственным интеллектом, уже можно сравнить с аддитивными технологиями. Они обладают способностью к комбинированию существующих решений и могут генерировать множество вариантов кода, текста, дизайна. Главным ограничением ИИ было и остается то, что он не может выйти за пределы онтологии, которая задана деятельностью, на которой он обучен. И здесь надо различать две ситуации.
- Там где ИИ обучен на очень больших массивах очень одинаковых задач и может с ними справиться полностью. В таких ситуациях ИИ постепенно заменит людей, как это происходило при появлении технологий предыдущих укладов. Так до 70-х годов никакой альтернативы людям, работающим в машинописных бюро, просто не было, но после появления светокопировальной техники, а потом и персональных компьютеров и принтеров машинописные бюро исчезли. Сейчас у нас очень большой пласт подобного устаревания профессий, но это относительно простой вопрос, его надо просто признать, и это достаточно тривиально, хотя социальная буря нас здесь ждет.
- А вот более сложный вопрос, это где ИИ может помогать (ускорять работу человека), но не может заменить его полностью, причем принципиально. И вот здесь весной 2025 года был преодолен очень важный рубеж. LLM научились автономно работать над задачами, на которые у начинающего специалиста (джуна) ушло бы несколько часов. Нейросеть теперь делает это за минуты и с сопоставимым количеством ошибок. Тут есть тонкость — джуны тоже делали эти задачи с ошибками, и для мидла и сеньора это нормальный процесс. Возникает закономерный вопрос, а зачем тогда компаниям джуны? (Статистика найма джунов начала быстро падать в апреле 2025 года и продолжает падать с высокой скоростью.)
Пользователь искусственного интеллекта должен отличать важное от неважного и должен брать ответственность, что вот это хорошо, а это не очень
Заменить сеньоров или лидов (ведущих сотрудников) LLM сейчас не могут, и вряд ли когда-нибудь смогут. За очень редким исключением лид не пишет код, он держит в голове архитектуру проекта. И сеньор несет ответственность, способен вычищать и исправлять ошибки и так далее. Для него LLM выполняет функции зеркала, боксерской груши и услужливого официанта. То, что раньше лид делал «об других людей»: обдумывал сложные вопросы, проверял гипотезы и так далее, теперь можно делать с помощью LLM. Получается не сильно хуже, чем с людьми, но быстрее и дешевле.
ИИ может повысить производительность труда в разы. Но есть нюанс. ИИ помогает тем, кто и так умеет работать. А тому, кто не умеет, это будет мешать. Но раньше человек мог научиться, будучи школьником, студентом, стажером. А теперь все те ступеньки лестницы, на которых можно было учиться, исчезают, потому что мотивация сеньоров работать с джунами, а не с ИИ, падает. Это означает, что требования к IT-образованию выросли мгновенно и катастрофически. Если раньше топовый университет выпускал джунов, то с приходом ИИ он должен выпускать мидлов.
Давайте дальше попробуем разобраться, что ИИ-системы сейчас могут и какие способности нужны для эффективной работы с ними.
Важнейшее свойство ИИ-систем можно описать как мастер эскизов. Он может быстро генерировать множество вариантов картинок или черновиков кода. Это эскизы ответов на вопросы, то есть «недоэкспертность».
Давайте возьмем пример рисования, там, где нейросети невероятно сильны, и поймем, что, чтобы всерьез пользоваться нейросетями, которые рисуют, у нас должен быть художественный вкус, чувство композиции, насмотренность, скорее всего, еще и умение рисовать самостоятельно. Потому что без этого мы не можем взять ответственность и отделить хорошее от плохого, важное и неважное, фигуры от фона. И вот это ключевое. То, что искусственный интеллект сделать не может.
Пользователь искусственного интеллекта должен отличать важное от неважного, и должен брать ответственность, что вот это хорошо, а это не очень. ИИ сгенерирует вам 50 картинок, но вам надо выбрать три и сгенерировать еще, а потом еще, а потом выбрать. То же самое будет с текстом, то же самое будет с информацией.
Человек, неспособный отличать важное от неважного, не может нести ответственность. В основе этой способности лежит энциклопедичность. Энциклопедичность включает в себя не только набор знаний, но и структуру знаний, архитектуру знаний, каталог, присоединение знаний к каталогу, различение разных частей каталога. Энциклопедичность художника заключается в том, чтобы за пленэр рисовать 50 эскизов. Без эскизов, без набросков, пленэр пленэром не считается. Пленэр — это не только умение нарисовать, это еще умение видеть образ будущего произведение, понимать разные художественные школы, разные стили, разные техники. То же самое в музыке, то же самое в тексте. Поэтому все начинается с энциклопедичности, развитой сенсорики, внутреннего каталога знаний.
После этого возникает способность различать важное и неважное. Когда мы научились выделять важное и неважное из сенсорного потока, мы можем выбирать. Это уже то, что ИИ не может сделать.
Дальше должна возникать еще более важная вещь. Это способность брать ответственность не только за конкретное и узкое решение, но и ответственность в сложных системах. Она включает ответственность на больших масштабах, в системах с обратной связью, многими итерационными циклами и большими временами. Эта структура ответственности принципиально отличается от того, с чем мы привыкли иметь дело. Но именно такая форма ответственности адекватна миру развитых ИИ-технологий.
Сделаем важный промежуточный вывод. Человеку в эпоху ИИ нужно иметь развитую энциклопедичность, способность отличать важное от неважного (красивое от некрасивого, фигуру от фона), и нести ответственность в том числе за поведение сложных, например, киберфизических систем.
ИИ может повысить производительность труда в разы. Но есть нюанс. ИИ помогает тем, кто и так умеет работать. А тому, кто не умеет, это будет мешать. Но раньше человек мог научиться, будучи школьником, студентом, стажером. А теперь все те ступеньки лестницы, на которых можно было учиться, исчезают, потому что мотивация сеньоров работать с джунами, а не с ИИ, падает. Это означает, что требования к IT-образованию выросли мгновенно и катастрофически. Если раньше топовый университет выпускал джунов, то с приходом ИИ он должен выпускать мидлов.
Давайте дальше попробуем разобраться, что ИИ-системы сейчас могут и какие способности нужны для эффективной работы с ними.
Важнейшее свойство ИИ-систем можно описать как мастер эскизов. Он может быстро генерировать множество вариантов картинок или черновиков кода. Это эскизы ответов на вопросы, то есть «недоэкспертность».
Давайте возьмем пример рисования, там, где нейросети невероятно сильны, и поймем, что, чтобы всерьез пользоваться нейросетями, которые рисуют, у нас должен быть художественный вкус, чувство композиции, насмотренность, скорее всего, еще и умение рисовать самостоятельно. Потому что без этого мы не можем взять ответственность и отделить хорошее от плохого, важное и неважное, фигуры от фона. И вот это ключевое. То, что искусственный интеллект сделать не может.
Пользователь искусственного интеллекта должен отличать важное от неважного, и должен брать ответственность, что вот это хорошо, а это не очень. ИИ сгенерирует вам 50 картинок, но вам надо выбрать три и сгенерировать еще, а потом еще, а потом выбрать. То же самое будет с текстом, то же самое будет с информацией.
Человек, неспособный отличать важное от неважного, не может нести ответственность. В основе этой способности лежит энциклопедичность. Энциклопедичность включает в себя не только набор знаний, но и структуру знаний, архитектуру знаний, каталог, присоединение знаний к каталогу, различение разных частей каталога. Энциклопедичность художника заключается в том, чтобы за пленэр рисовать 50 эскизов. Без эскизов, без набросков, пленэр пленэром не считается. Пленэр — это не только умение нарисовать, это еще умение видеть образ будущего произведение, понимать разные художественные школы, разные стили, разные техники. То же самое в музыке, то же самое в тексте. Поэтому все начинается с энциклопедичности, развитой сенсорики, внутреннего каталога знаний.
После этого возникает способность различать важное и неважное. Когда мы научились выделять важное и неважное из сенсорного потока, мы можем выбирать. Это уже то, что ИИ не может сделать.
Дальше должна возникать еще более важная вещь. Это способность брать ответственность не только за конкретное и узкое решение, но и ответственность в сложных системах. Она включает ответственность на больших масштабах, в системах с обратной связью, многими итерационными циклами и большими временами. Эта структура ответственности принципиально отличается от того, с чем мы привыкли иметь дело. Но именно такая форма ответственности адекватна миру развитых ИИ-технологий.
Сделаем важный промежуточный вывод. Человеку в эпоху ИИ нужно иметь развитую энциклопедичность, способность отличать важное от неважного (красивое от некрасивого, фигуру от фона), и нести ответственность в том числе за поведение сложных, например, киберфизических систем.
И теперь мы можем задать вопрос, какое же образование адекватно возникшему глобальному вызову?
Базовое образование должно включать в себя формирование энциклопедичности, формирование расширенной сенсорики, формирование различения важного от неважного. А высшее образование — получение высокоуровневой экспертности, способности и возможности действовать, нести ответственность, проектировать, эксплуатировать и перепроектировать сложные киберфизические системы и антропобиоценозы.
Человек должен получить навык работы с эскизами, художественными, текстовыми, музыкальными, и сформировать энциклопедичность своей текстуальной и визуальной культуры. Для этого нужно в пять раз больше, чем раньше, потратить времени на работу с текстом. Еще в пять раз больше изучать разные школы художников, чтобы сформировать насмотренность. Еще в пять раз больше работать с конспектом, с классификатором. То есть нужна очень высокая активность и нужен больший объем.
Нужно тренировать различение важного и неважного, нужно формировать способности к управлению сложностью и выходу за пределы онтологии. Самый простой способ сформировать эти способности в раннем возрасте — через игровые и соревновательные форматы. В том числе через настольные игры, полезные видеоигры платформы «Берлога», Турнир юных киберфизиков и НТО.
Педагогика вынуждена адаптироваться, чтобы обеспечить формирование этих сложных компетенций в максимально раннем возрасте, используя как традиционные (история, текст), так и новые форматы (игра, сценирование, работа с множеством правил, инженерные соревнования). От нашего коллективного ответа на этот вызов зависит, по какому сценарию пойдет цивилизация: развития, использующего ИИ как новую мир-технологию, или катастрофического когнитивного отката.
Базовое образование должно включать в себя формирование энциклопедичности, формирование расширенной сенсорики, формирование различения важного от неважного. А высшее образование — получение высокоуровневой экспертности, способности и возможности действовать, нести ответственность, проектировать, эксплуатировать и перепроектировать сложные киберфизические системы и антропобиоценозы.
Человек должен получить навык работы с эскизами, художественными, текстовыми, музыкальными, и сформировать энциклопедичность своей текстуальной и визуальной культуры. Для этого нужно в пять раз больше, чем раньше, потратить времени на работу с текстом. Еще в пять раз больше изучать разные школы художников, чтобы сформировать насмотренность. Еще в пять раз больше работать с конспектом, с классификатором. То есть нужна очень высокая активность и нужен больший объем.
Нужно тренировать различение важного и неважного, нужно формировать способности к управлению сложностью и выходу за пределы онтологии. Самый простой способ сформировать эти способности в раннем возрасте — через игровые и соревновательные форматы. В том числе через настольные игры, полезные видеоигры платформы «Берлога», Турнир юных киберфизиков и НТО.
Педагогика вынуждена адаптироваться, чтобы обеспечить формирование этих сложных компетенций в максимально раннем возрасте, используя как традиционные (история, текст), так и новые форматы (игра, сценирование, работа с множеством правил, инженерные соревнования). От нашего коллективного ответа на этот вызов зависит, по какому сценарию пойдет цивилизация: развития, использующего ИИ как новую мир-технологию, или катастрофического когнитивного отката.
