«Нейросеть такую галиматью не напишет»: ИИ делает уроки за школьников — как учителя вычисляют обман

Лет 10–15 назад трудно было представить, что можно достать смартфон и попросить ИИ в чате: «Напиши сочинение по „Горе от ума“ Грибоедова на тему „Видит ли автор в Чацком идеального героя“». Через минуту придет ответ — и готово домашнее задание. NGS.RU узнал, видят ли учителя проблему в том, что ученикам помогает ИИ, как они отличают работы школьников от того, что делают нейросети, и как с пользой использовать искусственный интеллект на уроках.

Анна Смоленцева вспоминает, что, когда она работала репетитором по русскому языку — а было это недавно, — нейросетей не существовало.

— Я забивала куски сочинений в Google, и иногда он выдавал полный текст. И ребенок понимал, что училка у него не такая древняя и интернет у нее есть, — улыбается она.

Учитель Иван Кокарев, который преподает русский язык и литературу в гимназии, считает, что развитие нейросетей и искусственного интеллекта создает не только возможности, но и проблемы и бросает вызовы, которые особенно ярко проявляются в сфере образования.

— Одним из таких вызовов является борьба с сочинениями, созданными при помощи искусственного интеллекта. Они вводят учителя в заблуждение о сильных и слабых сторонах учеников и мешают правильно и четко выстроить программу преподавания, что приводит к плачевным результатам на государственной итоговой аттестации, — поясняет он.

Учительница литературы Ирина (имя изменено по просьбе героини) подтверждает, что ученики сменили тактику.

— Когда я училась в школе и позже, когда первые годы работала учителем, все пользовались сборниками из серии «100, 200, 300, 500 золотых сочинений». И, мне кажется, это сильно мешало нам думать. Казалось, есть хороший образец, который мы должны повторить. Но ведь это не так, — рассуждает она.

Ирина признает, что современные дети активно пользуются ChatGPT. Недавно ей даже пришлось прочитать ученикам, как она говорит, пафосную душещипательную лекцию о том, почему не стоит писать эссе c использованием этого чата:

— Пыталась объяснить, что плагиат искусственного интеллекта, конечно, не защищен копирайтом (знаком авторского права. — Прим. ред.), но в этом заимствовании, как и в любом плагиате, есть что-то неприятное и нечестное. Репутации ученых, ректоров были разрушены из-за подобных прецедентов.

Школьная учительница русского языка и литературы Екатерина (имя изменено по просьбе героини) сказала, что отличить сочинения ученика и ИИ несложно.

— Знаю, что нейросеть такую галиматью не напишет, поэтому никогда не читала сочинения по литературе от детей, написанные ею. Для нас это вообще неактуально, — признается она.

Учитель математики Максим замечает, что в его предмете определить работу нейросети гораздо сложнее — разве что едва складывающий два плюс два ученик неожиданно начнет с легкостью решать квадратные уравнения.

Иван Кокарев уверен, что при анализе текстов учеников необходимо обращать особое внимание на стиль, языковые конструкции и логику повествования. Сочинения требуют от школьников эмоциональных вложений, рассуждений.

— «След» машинного интеллекта в сочинениях обнаружить легко, так как он, в отличие от человека, склонен к использованию формального и малоэмоционального языка. В этих текстах отсутствуют особенные слова или фразы, своеобразный синтаксис. А самое главное — нет конкретики. В общем, всего того, что создает индивидуальный язык автора, — объясняет он.

Кроме того, Иван использует специальные онлайн-сервисы и программы для проверки оригинальности текста — «Текст.ру», Copyleaks или Sapling.

— Как говорится в народе, «против лома нет приема, если нет другого лома». К тому же важно уделять внимание шаблонным фразам и канцеляризмам. Искусственный интеллект при генерации текстов обычно оперирует заданными конструкциями, которые не характерны для школьной программы, а скорее соответствуют языку юристов или бюрократов. Если такие шаблонные выражения встречаются повсеместно без какого-либо чувства ритма, то текст с большой вероятностью является сгенерированным, — считает Иван Кокарев.

Ирина замечает, что буквально полгода назад, когда она проверяла, какого рода тексты по темам сочинений может выдавать искусственный интеллект, получала результаты с большим количеством фактических ошибок.

— ChatGPT уже научился делать их меньше, но тем не менее прилизанная, чудовищная правильность, конечно, выдает его, видно, что перед вами не живое сознание, — добавляет она.

Ирина уверена, что отличить сочинение ученика от работы, сгенерированной нейросетью, несложно даже интуитивно. По опыту учительницы, если несколько детей в классе используют ChatGPT, нейросеть выдает им похожие тексты: структурированные, бездушные и «раздражающе грамматически правильные».

— Искусственный интеллект никогда не выдаст ничего уникального. И тем более каждый учитель знает, как ребенок мыслит, разговаривает, на какие вещи обращает внимание, — подчеркивает Ирина.

Она считает, что единственное, что может сделать учитель в этой ситуации, — это рассказать ребенку, что ему интересны именно его мысли и мнение.

Когда у Ирины возникают сомнения, она прибегает к помощи искусственного интеллекта ZeroGPT. Это бесплатная программа, которая показывает, на сколько процентов текст составлен с помощью ИИ.

— Это, кстати, даже интересный опыт. По ZeroGPT видно, насколько у ученика есть языковой вкус и желание оставаться честным: например, есть те, которые берут текст, написанный GPT, но переписывают его под себя, пытаются пересказать своим языком. Кто-то оставляет всё как есть. Это сочинение может многое рассказать об ученике. И вы сможете вместе с ним проанализировать такое эссе и объяснить, где живо и интересно, а где искусственно и скучно, — говорит учительница.

Ирина считает, что иногда чат может помочь детям облечь мысли в форму:

— На мой взгляд, можно придумать такое задание, чтобы учитель и ученики вместе проходили такой путь создания текста, разбирали его критически, чтобы можно было на конкретных примерах показать, что AI никогда не заменит человека.

По мнению Ирины, запрета на нейросети и разговоров о том, что искусственный интеллект не может помогать в образовании, не должно быть, но важно объяснять, что творческие тексты — это не то, с чем может помочь GPT. Зато ИИ можно использовать в быстром поиске информации. Хотя, конечно, и здесь есть нюансы: с фактологией у нейросетей в некоторых областях пока туго, отличать фейки они не научились.

— Я, например, как учитель литературы, как ни странно, часто прошу чат нарисовать иллюстрацию к какому-то художественному тексту или фрагменту, когда на уроке нужно что-то визуализировать, показать, какими странными в тексте могут быть образы, пространство и так далее. В таком виде ChatGPT может вдохновить нас на интересные наблюдения и беседы, — добавляет она.

Конечно же, о том, как отличить сочинение школьника от той работы, которую написал искусственный интеллект, нужно спросить и у самого ИИ.

— Отличить сочинение, написанное нейросетью, от работы школьника, может быть непросто, но есть несколько признаков, на которые стоит обратить внимание. Эти признаки не являются абсолютными, и иногда может быть сложно провести четкую грань между текстами, созданными человеком и нейросетью, — отвечает нам ChatGPT и выдает список отличительных особенностей:

1. Структура и логика: нейросети часто создают тексты с четкой структурой, но могут не всегда придерживаться логического развития мысли. Школьные сочинения могут быть менее последовательными, с резкими переходами между идеями.

2. Оригинальность идей: нейросети могут генерировать обобщенные идеи и использовать стандартные фразы. Школьники чаще выражают свои личные мысли и чувства, что может проявляться в уникальных примерах и интерпретациях.

3. Язык и стиль: нейросети могут использовать сложные конструкции и разнообразный словарный запас, но иногда это выглядит неестественно. Школьные сочинения могут при этом содержать грамматические ошибки, простые предложения и более ограниченный словарный запас.

4. Эмоциональная составляющая: работы школьников часто содержат больше эмоций и личного восприятия, в то время как нейросети могут создавать более нейтральные и безличные тексты.

5. Ошибки и неточности: нейросети могут делать фактические ошибки или неправильно интерпретировать литературные произведения. Школьники тоже могут ошибаться, но эти ошибки чаще связаны с их личным пониманием текста.

6. Уровень анализа: нейросети могут предлагать поверхностный анализ, в то время как школьники, особенно более продвинутые, могут глубже вникать в темы и использовать литературные термины.

7. Объем текста: иногда нейросети генерируют тексты большего объема, чем требуется, чтобы покрыть тему. Школьники могут писать менее объемно, но более целенаправленно.

На вопрос, какими программами школьный учитель может проверить сочинения учеников, ИИ тоже ответил списком:

1. Плагиат-детекторы, такие как Turnitin, Unicheck или Antiplag. Хотя они не всегда могут определить, написан ли текст нейросетью, наличие большого количества общих фраз может вызывать подозрения.

2. Специальные инструменты для определения AI-текстов: существуют платформы, разработанные специально для выявления текстов, созданных искусственным интеллектом. Например, GPT-2 Output Detector от OpenAI и GLTR (Giant Language Model Test Room) — инструмент, который анализирует вероятность появления слов в тексте и может помочь определить, был ли он сгенерирован нейросетью.

3. Стилометрические анализаторы: эти инструменты анализируют стиль написания и могут помочь выявить несоответствия в тоне, словарном запасе и структуре текста. Примеры включают JStylo и другие программы для анализа стиля.

4. Грамматические и стилистические проверщики: инструменты вроде Grammarly или LanguageTool могут помочь выявить аномалии в языке, которые могут указывать на то, что текст не был написан человеком.

5. Сравнение с предыдущими работами: если стиль, уровень анализа или использование языка учеником резко отличаются от его прежних сочинений, это может вызвать подозрения.

6. Интервью и обсуждение: учителя могут задать вопросы ученику о его сочинении, чтобы проверить его понимание темы и оригинальность идей. Если ученик не может объяснить свои мысли или идеи, это может быть признаком того, что сочинение было написано не им.