Онлайн-журнал «Юный киберфизик»

«Чем круче специалист, тем меньше он нуждается в ИИ»

2026-06-16 22:23 Настоящие технологии
Ксения Гнитько – исследовательница в области искусственного интеллекта и информационной безопасности, соучредительница Ассоциации кружков. Она профессионально занимается изучением больших языковых моделей, тестирует их во всем, что изучает, и отлично знает недостатки и слабые стороны практически каждой нейросети. А еще Ксения научилась обходить или минимизировать эти недостатки и поделилась этим ценным опытом с читателям журнала «Юный киберфизик».

Научные модели для ученых

Когда мы говорим об использовании искусственного интеллекта в исследовательских целях и для получения новых научных результатов, следует различать специализированные модели, такие как AlphaFold и GraphCast, и пользовательские, например ChatGPT, DeepSeek и YandexGPT. Хотя и те, и другие построены на технологии глубокого обучения (deep learning), они имеют ряд принципиальных отличий, которые определяют качество результата их работы.

Специализированные модели способны давать новые научные результаты, потому что в них заложена вычислительная модель изучаемого явления, например, фолдинга белков, и они обучались на тщательно отобранных и зачастую уникальных данных. Тогда как в основе популярных ИИ-продуктов лежат большие языковые или мультимодальные модели. Такие модели обучались на огромном количестве разнообразных данных и устроены таким образом, что они всегда дают наиболее вероятный ответ.

Многие специализированные модели имеют открытый код, но при этом они практически недоступны для отдельного человека, так как требуют значительных ресурсов для запуска. При этом большие языковые или мультимодальные модели доступны любому, и их можно применять для самых разнообразных задач, в том числе исследовательских. Об этом мы и будем говорить далее.

Искусственный интеллект выдает тривиальные результаты

Качество ответов ИИ напрямую зависит от качества данных, на которых обучалась модель. Данных среднего качества, то есть без грубых ошибок, но и без оригинальных мыслей, будет гораздо больше, чем откровенно плохих или очень хороших. Соответственно, и ответы будут скорее правильными. Но это усредненная информация, лишенная деталей сумма того, что попало в обучающую выборку, а вовсе не новый и неожиданный результат, который мы надеемся получить во время исследования.
Что можно сделать?

Принять как данность, что большая языковая модель никогда не даст результат, которого не было в данных, на которых она обучалась.
Но это же ограничение можно использовать для косвенной проверки новизны своих идей: если ответы ИИ не похожи на то, что вы хотите сказать, вероятно, ваша мысль оригинальна.

Искусственный интеллект может выдавать недостоверную, но правдоподобную информацию

Любая достаточно хорошая ИИ-система генерирует логически стройные, детализированные и убедительные ответы, но далеко не всегда они точны и правдивы. На это есть две причины: галлюцинации и качество источников, на которых обучали ИИ.

Галлюцинации, как правило, возникают в тех случаях, когда у модели недостаточно данных для точного ответа. Несмотря на все усилия разработчиков, ИИ-модели все еще плохо определяют задачи, которые они не в состоянии решить. Вместо того, чтобы сообщить пользователю, что они не могут ответить на вопрос, модели «придумывают» правдоподобные, но неправильные ответы. Качество данных, заложенных в модель, тоже критично: если в них есть ошибки, модель перенимает их и воспроизводит.

Шанс столкнуться с галлюцинацией тем выше, чем более сложный, оригинальный и детализированный вопрос мы задаем. Распознать ложные и ошибочные ответы во многих случаях невозможно.
Что можно сделать?

Перефразируя известное выражение, чтобы эффективно пользоваться ИИ, нужно знать большую часть ответа. Применяйте нейросети в тех областях знания, где вы обладаете экспертизой и способны оценить качество ответа.

Искусственный интеллект умеет подтверждать гипотезы, но не может их опровергнуть

Каждое исследование предполагает проверку какой-либо гипотезы. В науке проверка гипотезы происходит двумя методами: с помощью верификации и фальсификации. Мало найти подтверждения того, что гипотеза работает, надо убедиться, что нет таких условий, при которых она оказывается неверна. Даже самые продвинутые модели очень плохо справляются с тем, чтобы обнаруживать границы применимости гипотез, находить контрпримеры и ошибки.

Кроме того, каждый ИИ-продукт имеет ряд надстроек и фильтров, которые определяют стиль взаимодействия с пользователем. В большинстве случаев, ИИ подкручивает ответы так, чтобы поддерживать пользователя в том, что тот считает правильным.
Что можно сделать?

Не стоит рассчитывать на объективную критическую оценку вашей работы со стороны ИИ. Но есть некоторые способы, как получить такую оценку, с которой можно работать.
Для проверки гипотез не задавайте вопрос, верно или неверно то или иное утверждение, задавайте более конкретные вопросы, формулируйте антонимы к вашей гипотезе, просите ее подтверждать их. Но в целом не стоит возлагать большие надежды на ИИ в той части работы, где требуется проверять, анализировать и оценивать информацию.

Искусственный интеллект плохо справляется со сложными задачами

Совершенно понятно, что имея в своем распоряжении такой мощный инструмент, как ИИ, мы хотим использовать его для по-настоящему сложных задач. Для таких задач, которые не помещаются в одну голову, например, для анализа большого корпуса данных или огромной кодовой базы, и последние модели позволяют это делать. Модель Gemini 1.5 Pro может за один раз обработать более 30 тысяч строк кода или 700 тысяч слов, а это примерно в полтора раза больше, чем в «Войне и мире». Но проблема кроется не в том, сколько данных мы можем «скормить» нейросети, а в том, как она генерирует ответ.

Ответы ИИ-модели не предопределены. Если задавать один и тот же вопрос, ответ никогда не повторится в точности. Это происходит потому, что ответ генерируется не сразу весь, а по частям, где каждая следующая часть является вероятным продолжением предыдущей. Вероятность – это то, что обеспечивает оригинальность ответов, но она же является источником ошибок. Чем более сложный и развернутый ответ мы хотим получить, тем выше шансы, что в нем будет больше ошибок и галлюцинаций.

Получается, что мы можем совершать относительно простые действия с большим объемом данных, но не можем добиться качественного результата, если для него нужно совершать много, пусть даже и несложных, операций. Поэтому нейросети плохо следуют инструкциям или вносят изменения в уже созданное, но хорошо справляются с небольшими задачами с чистого листа.
Что можно сделать?

Ешьте слона по частям, то есть разбивайте задачу на более простые. Важно, делите задачу на такие части, чтобы вы могли самостоятельно проанализировать и проверить результаты. Если качество ответа вас не устроило, попробуйте перегенерировать, но не просите модель исправить.

Не все ИИ-модели одинаково хороши

Какой бы продвинутой ни была модель, она не может одинаково качественно решать все задачи. В каких-то задачах она будет показывать себя лучше, в каких-то хуже. У разных моделей будут разные сильные и слабые стороны.

Например, ChatGPT не сделает профессиональный перевод, а вот DeepL Translate прекрасный переводчик. Нейросеть Claude AI лучше других справится с написанием кода, а с поиском информации в интернете пока нет равных Perplexity.

Кроме того, разные модели могут предлагать разные взгляды на одни и те же темы. Потому что в них заложены разные фильтры и ограничения.
Что можно сделать?

Задача человека, который использует нейросети, собрать своей интеллектуальный экзоскелет, который подойдет под решение конкретных целей. Нужно знать возможности каждой модели, с которой приходится работать, ее ограничения, области применения. Для узких задач лучше подходят специализированные решения, чем универсальные модели.

Почему ИИ не сделает вас экспертом, если вы им не являетесь

Вывод, к которому я прихожу, исследуя искусственный интеллект, достаточно однозначен, нейросети очень далеки не только от того, чтобы заменить ученых и исследователей, но даже от того, чтобы стать им полноценным партнером.

Нейросети полезны тогда, когда человек умеет ими пользоваться и у него есть экспертность в какой-либо области. В ином случае использование ИИ приведет либо к неудобствам и замедлению работы, либо к неудовлетворительным результатам.

ИИ не делает человека профессионалом. Профессионализм предполагает хорошо отработанные навыки оценки источников, умение видеть ошибки и границы, системно мыслить, сопоставлять факты, работать с контекстом. Это то, чему ИИ не сможет нас научить, но мы, возможно, сможем научить этому ИИ.