Мнение

ChatGPT в образовании

by human

Нейросетевая разговорная модель ChatGPT сейчас у всех на слуху. После недавнего случая, когда студент использовал ChatGPT для написания диплома, ко мне обратились несколько человек, чтобы узнать моё мнение про использование нейросетей в образовании.

Сокращённая версия этого текста была использована в статье Марии Агранович “Будет ли искусственный интеллект писать дипломы и сочинения” в Российской газете

В последнее время возникает много вопросов относительно использования генеративных нейросетевых моделей в исследованиях и в образовании. Например, Springer и Nature запрещают указывать чат-бота ChatGPT в качестве соавтора научных статей (хотя использовать его при написании допускается). Речь начинают вести и про запрет ChatGPT в вузах, как российских, так и за рубежом – особенно после недавнего скандала со студентом, написавшим диплом с помощью ChatGPT.

Безусловно, ChatGPT осложнит жизнь преподавателям! Мы с коллегами в МАИ провели эксперимент - сможет ли ChatGPT сдать экзамен по одному из предметов, логическому программированию. Оказалось, что чат-бот успешно решает несложные задачи на экзотическом языке программирования Prolog, и худо-бедно отвечает на вопросы тестов типа multiple choice. Более того, чат-бот в процессе диалога рассказал нам, в каких областях программирования эффективно использовать Prolog, и даже привел пример программы, которая могла бы использоваться в биоинформатике! В общем, тройку или даже четверку на экзамене искусственный интеллект смог бы заработать! (Пример беседы с нейросетью на тему логического программирования см. в конце статьи)

Generated Image of Robot in Class Сгенерировано Stable Diffusion 1.5

С другой стороны, генеративные инструменты позволяют повысить эффективность творческой работы, взяв на себя написание больших объемов текста, и оставив человеку самое главное – придумывание идеи. Я не вижу ничего плохого в том, что студент (или учёный-исследователь) генерирует значительную часть своей работы с помощью генеративных инструментов – до той поры, пока он несёт полную ответственность за содержание. Нейросеть может очень легко писать бессмысленный текст (например, я попросил её придумать 10 причин, почему огурцы вызывают бессонницу, и она справилась!), и задача человека – следить за тем, чтобы полученный в результате текст соответствовал тем целям, ради которых он пишется. Если диплом, написанный с помощью ChatGPT, содержит в себе оригинальные мысли студента, является научно обоснованным, и студент на защите демонстрирует знание проделанной им работы – я не вижу в этом ничего предосудительного.

К слову, в ситуации со студентом, написавшим диплом с помощью ChatGPT, ситуация была прямо обратная - и заслуживает осуждения. подробнее Если верить статье на habr, студент использовал ChatGPT для генерации первоначального плана диплома, и затем пытался отправить его преподавателю, не внося изменений. В результате преподаватель (который 2 раза отказался принять такой план), по сути взял на себя всю осмысленную работу по превращению сырого материала от нейросети во что-то разумное. Далее, студент в явном виде использует ChatGPT для генерации бессмысленного с точки зрения содержания текста, заменяя в тексте названия компаний и добиваясь по сути одного - прохождения антиплагиата и правдоподобно-выглядящего диплома. Тут налицо подлог и полное пренебрежение академической честностью - и я считаю, что применение суровых мер наказания к такому студенту создало бы скорее положительный прецедент, и никак не являлось бы индикатором "косности" академической системы.


Именно по этой причине издательства запрещают указывать ChatGPT в качестве соавтора научных работ – чтобы указанные в списке авторы чувствовали свою полную ответственность за содержимое, за достоверность и корректность текста.

ИИ, как вероятностная модель, не может нести ответственность за сгенерированный им текст, и не может гарантировать его истинность или правильность.

Irresponsible Robot Trial Суд над безответственными роботами, уличёнными в списывании. Stable Diffusion 1.5, 2023 г.

Ситуация с ChatGPT напоминает дискуссию о том, можно ли давать студентам свободно пользоваться на экзамене справочными материалами. Запрещая использование, можно проверять знания студентов на относительно типовых задачах. В то же время, если разрешить использование справочных материалов и интернет, то придётся придумывать более творческие задания, но зато такой экзамен будет максимально приближен к реальной жизни, в которой информация всегда доступна, но нужно применить свои творческие навыки для решения более сложной задачи.

Несмотря на то, что ChatGPT усложнит жизнь преподавателям, есть и хорошая новость – они тоже смогут использовать генеративные модели в своей работе. Например, для генерации новых творческих заданий, создания различных модификаций / вариантов заданий, организации совместных мозговых штурмов с нейросетью и т.д.

AI-Enhanced Professor Профессор будущего разрабатывает задание для студентов, Stable Diffusion 1.5, 2023 г.

Помимо генерации работ, можно придумать много других вариантов использования генеративных моделей в образовании. Например, очень эффективно применять ChatGPT в изучении английского, поскольку нейросеть может выступать внимательным никогда не устающим собеседником, а также её можно просить переписать какую-то простую фразу более художественным языком – это хорошо развивает словарный запас (см. пример ниже).

Генеративные модели для изображений

Помимо текстовых генеративных моделей, существуют модели для генерации изображений по текстовому описанию (например, Stable Diffusion или Midjourney). Такие модели обучены на больших массивах изображений, и они знают много про окружающий мир: основные художественные техники (акварель, масло, пастель и т.д.), стили различных художников, достопримечательности мировых столиц, известных актёров и т.д. Вот пример изображений нескольких городов в разных стилях (из небольшого исследования нейрогенеративных моделей, которое мы проводили совместно со школой дизайна НИУ ВШЭ):

Seattle, Pencil Sketch by Stable DiffusionParis, Oil by Stable DiffusionMoscow, Watercolor by Stable DiffusionLondon, Oil Painting by Stable Diffusion

Дискуссия об использовании таких моделей в последние месяцы активно ведутся среди художников и искусствоведов. Ситуация очень похожая с написанием диплома – с помощью таких моделей легко создать красивую репродукцию, которую можно повесить на стену для украшения интерьера. Однако, для создания по-настоящему интересных произведений искусства, необходимо вложить в них какую-то идею – а это может сделать только человек!

Мне кажется, достаточно непродуктивно запрещать появившийся генеративный инструмент (что делают некоторые арт-площадки) – гораздо интереснее попытаться адаптироваться к новому миру и немного переосмыслить роль художника – перенеся акцент с процесса материального воплощения идеи в результат, на совершенствование самой идеи.

Настоящие произведения искусства начинаются в голове художника, а использует ли он кисть и краски или нейрогенеративные инструменты для воплощения своей идеи в жизнь – не так уж и важно.

Генеративные модели существенно повышают производительность творческого труда. Например, известна история дизайнера Аммара Реши, который за пару дней с помощью Chat GPT и Midjourney создал книгу сказок “Алиса и её робот Спаркл”. При этом огорчает, что большинство комментариев в сети от художников были негативными. При этом надо отметить, что достичь хороших и желаемых результатов с помощью нейросети далеко не так просто – я на зимних каникулах тоже решил повторить опыт Аммара и создать иллюстрированный рассказ, и хотя написать текст под свою идею оказалось достаточно просто – создать иллюстрации, которые были бы согласованы по стилю и по образу персонажей, оказалось очень непростым делом!

На самом деле, мы уже проходили через некоторую трансформацию искусства, когда появилась фотография – и акцент сместился с точного копирования реальности на её переосмысление, что привело к появлению многообразия творческих стилей, отражающих индивидуальное видение художника. Надеюсь, что таким же образом появление нейрогенеративных инструментов приведёт к расцвету новых форм искусства, как в области изобразительного искусства, так и в создании текстов.

Примеры использования ChatGPT

Для изучения иностранного языка

Human: Can you rephrase the following sentence in a passive voice: I was happy to see my brother, but soon got tired from talking to him.

ChatGPT: I was made happy by the sight of my brother, but soon got tired from being talked to by him.

Human: Can you make it longer and more formal?

ChatGPT: I was filled with joy upon seeing my brother, but soon found myself becoming weary from his incessant chatter.

Human: Can you elaborate on my feelings?

ChatGPT: I initially felt a rush of excitement and happiness when I saw my brother, but as he continued to talk, I began to feel overwhelmed and exhausted by the sheer amount of words coming out of his mouth. Despite this, I still felt a deep affection for him and was glad to be reunited with him.

Human: Please rewrite the following phrase in more artistic way, and make it one paragraph long: “I was sitting under an apple tree”.

ChatGPT: I reclined beneath the apple tree, its branches arching over me like a canopy of protection. The sun shone through the leaves, casting dappled light upon my skin. A gentle breeze rustled the boughs, and I felt a sense of peace and contentment wash over me. I closed my eyes and simply enjoyed the moment, savoring the beauty of nature.

Human: Please write in more artistic way: I went to sleep late. Use 5 sentences.

ChatGPT: Here you go:

  1. I curled up in bed, eager to drift away into the night.
  2. But my mind was too busy, buzzing with thoughts of the day.
  3. I tossed and turned, unable to find solace in the darkness.
  4. The night seemed to stretch on forever, until I finally succumbed to slumber.
  5. I had gone to sleep late, but at least I was able to rest.

Пример диалога с системой в процессе сдачи экзамена

Human: In which areas of programming is Prolog helpful?

ChatGPT: Prolog is a logic programming language that is used to solve problems involving symbolic logic and automated reasoning. It is commonly used in artificial intelligence, natural language processing, and database systems. Prolog is also used in areas such as game programming, computer vision, robotics, bioinformatics, and natural language understanding.

Human: Please elaborate on using prolog in bioinformatics

ChatGPT: Prolog can be used in bioinformatics to develop programs that can analyze and interpret biological data. It can be used to develop algorithms that can identify patterns in genomic data and predict the effects of genetic mutations on proteins. Prolog can also be used to develop programs that can simulate the behavior of proteins and other biological systems. Additionally, Prolog can be used to develop machine learning algorithms for the analysis of large datasets in bioinformatics.

Human: Can you write an example of such program?

ChatGPT: Below is an example of a Prolog program that can be used to predict the effects of genetic mutations on proteins:

% Predicts the effects of a genetic mutation on a protein
mutation_effect(Mutation, Protein, Effect) :-
    find_amino_acid_change(Mutation, Protein, ChangedAminoAcid),
    lookup_effect(ChangedAminoAcid, Effect).
find_amino_acid_change(Mutation, Protein, ChangedAminoAcid) :-
    find_mutation_location(Mutation, Protein, Location),
    lookup_amino_acid(Protein, Location, ChangedAminoAcid).
find_mutation_location(Mutation, Protein, Location) :-
    string_chars(Mutation, Chars),
    nth0(0, Chars, FirstChar),
    string_codes(FirstChar, [Location]).
lookup_amino_acid(Protein, Location, ChangedAminoAcid) :-
    string_chars(Protein, Chars),
    nth0(Location, Chars, ChangedAminoAcid).
lookup_effect(ChangedAminoAcid, Effect) :- 
    (ChangedAminoAcid == 'A' -> Effect = 'No effect'; 
    ChangedAminoAcid == 'C' -> Effect = 'Stabilizing'; 
    ChangedAminoAcid == 'G' -> Effect = 'Destabilizing'; 
    ChangedAminoAcid == 'T' -> Effect = 'Destabilizing').

Диалоги и обсуждения