/

/

Честная наука в эпоху алгоритмов: зачем формировать этические правила для ИИ

Честная наука в эпоху...

28.11.2025

Понятие этичного использования искусственного интеллекта в образовании и научной среде сегодня вызывает больше вопросов, чем ответов. Этика, по сути, — механизм саморегуляции профессионального сообщества, который призван защищать его от деградации и размывания норм. В контексте образования этот принцип становится особенно важным, ведь на кону — качество подготовки специалистов.

Человеку естественно стремиться к упрощению любой работы, в том числе умственной. Если можно переложить часть мыслительных задач на внешние инструменты — будь то поисковик, калькулятор или искусственный интеллект — большинство так и поступит. 

И тут возникает этический конфликт между естественным стремлением человека к персональному комфорту и задачей образовательной системы научить его думать. Формально использование ИИ не всегда нарушает правила, ведь студент не списывает и не покупает работу на заказ. Однако благодаря нейросетям он может решать учебные задачи обходным путём, не приобретая нужных компетенций.

Проблема усугубляется ещё и отсутствием чётких норм в отношении использования ИИ. Образовательное сообщество попросту не успело выработать единых критериев, которые бы указывали, где заканчивается допустимое использование технологий и начинается академическое злоупотребление.

Состоялась конференция разработчиков высоконагруженных систем Saint HighLoad++ 2025

Создание этических норм для использования искусственного интеллекта в образовании — задача не только возможная, но и неизбежная. В ближайшее время сообщество должно выработать устойчивый свод правил, аналогичный существующим нормам академической добросовестности.

Сегодня ни у кого не вызывает сомнений, что списывать, узнавать заранее ответы на тесты или поручать сдачу экзамена другим людям — неэтично. Эти нормы формировались десятилетиями и стали частью профессиональной культуры. Вероятно, то же самое произойдёт и с ИИ: появятся чёткие границы, определяющие, в каких ситуациях его применение допустимо, а где — нарушает саму цель образовательного процесса.

Один из возможных подходов — фиксация разрешённого инструментария. Подобно тому, как в школьной задаче указывается, что её нужно решить «с помощью линейки без делений» или «без калькулятора», в университетских заданиях могут появиться аналогичные уточнения: дозволено ли студенту использовать ИИ, интернет или только собственные знания. Это поможет сформировать «правила игры», при которых этические границы становятся очевидными и не требуют дополнительных пояснений.

Однако одних формальных правил может быть недостаточно. Этические проблемы, связанные с применением ИИ, во многом решаются изменением самой логики образовательного процесса. Один из возможных сценариев подразумевает перестройку формата занятий по принципу «перевёрнутого класса», когда теорию студенты осваивают дома, с помощью цифровых инструментов, включая ИИ, а практические задания выполняют уже в аудитории под контролем преподавателя. Такой подход снижает риски недобросовестного использования технологий и одновременно развивает осознанное взаимодействие студентов с ИИ.

Что касается научных журналов, они тоже адаптируются под новую реальность и вырабатывают собственные стандарты этичного обращения с искусственным интеллектом. Одно из ключевых требований — открыто указывать, какие именно инструменты ИИ использовались в работе, на каких этапах и с какой целью. Это делает научный процесс прозрачным и защищает результаты от искажений.

Отдельное внимание уделяется тому, где использование ИИ недопустимо. Сегодня ведущие издания запрещают применять искусственный интеллект при рецензировании научных статей. Запрет связан не только с техническими ограничениями или необходимостью сохранить независимость и ответственность научных экспертов — его используют, чтобы предотвратить возможные утечки неопубликованных рукописей во внешние сервисы.

Другой вопрос, который является предметом жарких дискуссий: можно ли считать обманом и нарушением академической этики использование искусственного интеллекта без указания этого факта? 

Если издательство обнаруживает нарушение, оно может не принять рукопись к публикации или отозвать уже опубликованную статью — это стандартная практика при выявлении несоответствий. В случае серьёзных ошибок или нарушений публикация будет отозвана и этот факт будет зафиксирован в электронных базах данных, таких как Retraction Watch или eLIBRARY.

Однако сам факт использования ИИ не может быть основанием для ретракции. Важно то, как и для чего применялся алгоритм. Использование искусственного интеллекта становится проблемой лишь тогда, когда оно приводит к искажению научных данных, плагиату или манипуляции результатами. В таких случаях речь идёт не об этическом нюансе, а об академическом обмане — такая работа совершенно справедливо подлежит пересмотру и отзыву.

Вопрос этики особенно остро проявляется в ситуациях, когда автор поручает ИИ задачи, требующие не только технической, но и исследовательской деятельности — например, составление списка источников или обзора литературы. В такой ситуации граница проходит не по выбору инструмента — будь то поисковая система, чат-бот или база данных, — а по степени личного участия исследователя в процессе. Если автор использует ИИ для классификации уже найденных источников, это можно считать технической поддержкой. Но если список формируется автоматически целиком, без проверки достоверности и релевантности ссылок, речь идёт о нарушении принципов академической добросовестности.

Поэтому главный критерий этичности — личная вовлечённость автора. Он должен проверить, какие публикации вошли в список источников, должен убедиться в их существовании и актуальности. Он также обязан понимать, насколько каждый из приведённых источников соотносится с темой его исследования. Проще говоря, необходима проверка информации, предоставленной ИИ-инструментом.

И если ответственность автора при использовании ИИ ясна, то с разработчиками сервисов и агентов, а также с компаниями, занимающимися разработкой в области искусственного интеллекта, дело обстоит иначе. Нейросетям свойственны «галлюцинации», которые могут выглядеть очень правдоподобно, но юридическую ответственность к разработчикам моделей применить сложно. Их положение стоит рассматривать в контексте моральных обязательств.

Суть работы современных генеративных моделей в том, что они обязаны любой ценой дать ответ на запрос пользователя. Ответ «нет» отсутствует в них на уровне допустимых сценариев взаимодействия. Поэтому если алгоритм не знает достоверного ответа, он всё равно что-то сочинит «от себя», просто потому что должен.

Тем не менее многие компании, разрабатывающие ИИ, предпринимают шаги для снижения рисков. Например, разработчики ChatGPT ограничили ответы модели на темы медицины и юриспруденции. Насколько мы знаем, это решение не было навязано извне, оно отражает осознание этической и репутационной ответственности за возможные последствия неправильного использования технологии.

Игнорирование этических норм в работе с ИИ неизбежно приведёт к снижению качества образовательной и исследовательской среды. Первыми последствия ощутят именно студенты и преподаватели: если в процессе обучения станет допустим формальный подход к заданиям, а интеллектуальные инструменты начнут подменять собственное мышление, качество образования начнет быстро падать.

А потом изменения догонят и научную среду. Наука во многом держится на доверии и на общих представлениях о том, что допустимо, а что — нет. Если в сообществе появится значительное число людей, которые считают приемлемыми плагиат, недобросовестное цитирование или манипуляции с текстами — это разрушит саму систему научных ценностей.

В результате одни исследователи будут оправдывать нарушения, другие — уходить из академической сферы, не желая мириться с падением стандартов. Это запустит цепную реакцию, ведущую к деградации научной среды и снижению достоверности научных результатов. Поэтому, хотя объективно измерить качество научных работ сложно, этика остаётся тем фундаментом, без которого невозможно сохранить доверие к науке как к институту.

Главное правило для авторов, применяющих искусственный интеллект в работе, — критически относиться к результатам ИИ и всегда проверять информацию. Особенно тщательно это стоит делать, если вы используете ИИ в новой для себя области, где плохо ориентируетесь. Ошибочные утверждения модели могут выглядеть очень убедительно, поэтому все факты требуют подтверждения.

Однако этика использования ИИ выходит за рамки одного лишь фактчекинга. Авторам полезно задавать себе простой вопрос: допустимо ли использование инструмента в данной ситуации? Если речь идёт, например, об учебном задании, которое предполагается выполнять самостоятельно, привлечение ИИ будет нарушением принципа академической честности.

Именно здесь и проходит граница между этичным и неэтичным применением алгоритмов. Если вы можете открыто признать: «Да, я использовал ИИ для этой задачи», — и это не вызывает диссонанса, значит, вы действуете в рамках этики. Если же использование инструмента нужно скрывать от других, это сигнал о нарушении.

Развитие культуры применения ИИ пойдёт по пути институционализации и этического уточнения, а не запретов. В ближайшие годы можно ожидать формирования свода правил, регулирующих использование искусственного интеллекта в образовании и научной деятельности. Изменения коснутся не только этических принципов, но и самих образовательных практик. Форматы заданий, способы взаимодействия между студентами и преподавателями, структура учебных программ — всё это будет адаптировано к новой реальности. Возможно, это станет самым серьезным вызовом за все время существования научно-образовательной системы, но я уверен, что она сможет с ним справиться.

Оригинал интервью с Юрием Чеховичем можно найти на Ferra