О том, что многие делают, но боятся признаться: искусственный интеллект в подготовке научных статей одобрен учеными

Решительный шаг к формированию понятных правил использования искусственного интеллекта (ИИ) при подготовке научных статей сделали российские химики. Группа из 24 главных редакторов, членов редколлегий журналов, академиков и вице-президентов ран сформулировала свод правил «для ответственного применения искусственного интеллекта при подготовке научных текстов». Он появился  на днях в журнале «Успехи химии».

Pogiba Alexandra/news.ru/Global Look Press

Среди авторов статьи – вице-президенты ран Сергей Алдошин, Степан Калмыков, академики Валентин Анаников, Юлия Горбунова, Владимир Иванов, Михаил Егоров, Аслан Цивадзе, Ирина Белецкая и другие. Все они представляют сильнейшие научно-исследовательские организации страны, такие, как Институт органической химии им. Н. Д. Зелинского ран, Институт общей и неорганической химии им. Н.С. Курнакова ран, Сколтех, ГЕОХИ ран, МГУ им. Ломоносова. Многие одновременно являются и редакторами известных научных журналов. Суть их послания – донести до всех главную, по их мнению, мысль: ИИ при подготовке научных статей использовать можно(!), но ответственность за такую «совместную работу» остается только за ученым.

Мы изучили статью и поговорили с одним из ее авторов, заведующим лабораторией ИОХ ран, академиком ран Валентином Ананиковым.

– Многие в научном и образовательном сообществе уже применяют инструменты искусственного интеллекта, но пользуются ими не так эффективно, как могли бы, – говорит мой собеседник. – Исследователи, обращаясь к ИИ при подготовке публикаций, статей, как бы стесняются, скрывают этот факт, опасаясь, что, если они признаются в этом, тексты их не будут приняты профессиональным сообществом. Коллеги, с которыми мы беседовали ещё до выхода нашей статьи, делились, что у них возникает чувство дискомфорта от того, что они пользуются ИИ, но не знают, как это корректно описать. Они опасались, что если даже работу не отклонят, то все равно они станут объектами негативного отношения коллег. Мы решили сказать всем, что пользоваться инструментами искусственного интеллекта при подготовке текстов научных работ можно и во многих задачах полезно, но с определенными правилами.

– Можете перечислить их?

– Во-первых, при подготовке научной статьи важно соблюдать правила целевого журнала по раскрытию использованных инструментов. Если ИИ существенно помогал создавать, переводить, редактировать, структурировать или анализировать текст, это следует честно указать, пояснив, каким инструментом пользовались, для какой задачи и, при необходимости, в каком разделе. К примеру: «При подготовке рукописи использовалась модель DeepSeek [версия/дата] для первичной организации литературного обзора, стилистической правки и перевода текста с последующей авторской проверкой». Мы транслируем всем: «Не нужно «прятать» ИИ, это нормальный рабочий инструмент!». 

 Во-вторых, искусственный интеллект не должен подменять авторство человека. Автором научного текста выступает только человек, он полностью отвечает за содержание. 

В-третьих, нельзя использовать ИИ для создания видимости нового знания, генерации несуществующих результатов или для подмены научного суждения автора. Если ответ ИИ затрагивает интерпретацию данных или выводы, решение и проверка должны оставаться за исследователем.

– А прецеденты выставления ИИ за авторов были когда-либо?

– Такие попытки были, особенно в первые годы распространения генеративных моделей. Однако сегодня крупные издатели и редакционные организации сходятся в том, что ИИ не может быть автором или соавтором. Из морально-этических соображений автором считается тот человек, который сознательно внёс вклад в научную работу, а ИИ – это система, которая выполняет команды. Есть и правовой аспект: авторство связано с человеком, который может принять на себя ответственность, выполнить требования публикационного соглашения и подписать договор с журналом. ИИ такой правосубъектностью не обладает и поэтому не может выступать автором или соавтором научной публикации. 

И между тем многие почему-то часто задают редакторам научных журналов вопрос: «Надо ли записывать ИИ в авторы или соавторы?». В данный момент общепринятый ответ: «Нет».

– К какому виду инструментов вы бы отнесли ИИ?

– В статье мы говорим об ИИ как об ассистенте, его можно назвать «цифровым соэкспертом», сохраняя понимание, что он не принимает научных решений вместо человека. Такой инструмент может помогать со стилистической правкой, переводом и первичной организацией литературы по теме работы. Он может предварительно проработать часть источников, выдать краткое содержание или выжимку информации, но исследователь должен сверить это с первоисточниками, проанализировать и только затем использовать в своей работе.

– Что, если ИИ найдёт не ту литературу, какая нужна в данном случае и это приведет в итоге автора-человека к неправильным выводам?

– человек должен проверять всё. Это прямо закреплено в декларации об использовании ИИ: указать инструмент и область его применения, а также отметить, что авторы проверили и отредактировали текст и несут полную ответственность за научное содержание. Конкретная форма декларации зависит от правил журнала.

– Как вы думаете, ваши правила перейдут в законодательную форму?

– Определённые правила, прежде всего на уровне журналов, научных организаций и профессионального сообщества, безусловно, нужны. вопрос о том, какие именно аспекты требуют законодательного регулирования, заслуживает отдельного обсуждения: отсутствие понятных норм повышает риски безответственного применения ИИ.

– Каких, например?

– Если размыть ответственность человека и позволить непроверенному ИИ-тексту подменять научное содержание, возрастает риск появления работ с недостоверными данными и даже описаниями несуществующих экспериментов: модель может уверенно генерировать правдоподобные, но неверные факты.

– Теперь после выхода вашей статьи и рекомендаций все, кто пришлет в научные журналы свою статью, должен будет обязательно указать использование ИИ?

– Требования к раскрытию использования ИИ уже существовали у многих издательств, но они плохо реализованы на практике. Теперь автор может дополнительно указать, что руководствовался рекомендациями VALENCE из нашей статьи в «Успехах химии». Во многих журналах само по себе ответственное и раскрытое использование ИИ при подготовке текста не является основанием для отклонения рукописи. Декларация о том, что авторы проверили текст и несут ответственность за научное содержание, делает границы ответственности понятными для авторов, редакторов и рецензентов.

– Вы назвали свои правила VALENCE. При чём тут «валентность»?

– VALENCE – это акроним семи правил: проверять, декларировать применение ИИ, ограничивать его роль, редактировать результат, не указывать ИИ автором, корректно цитировать и защищать права, соблюдать стандарты. Английские начальные слова складываются в VALENCE. Для химика это ещё и понятная метафора: валентность описывает связи, а наши правила – связь между инструментом, автором и научной ответственностью.

– За рубежом есть подобные правила для публикующихся ученых?

– Многие крупные издательства и профессиональные организации уже выпустили свои инструкции. Они во многом сходятся в ключевых принципах – прозрачности, авторской ответственности и запрете ИИ-авторства, – но формулировки и требования различаются.

– В чём именно?

– VALENCE собирает эти требования в одну компактную систему из семи принципов – от проверки фактов и открытого декларирования ИИ до авторской переработки текста, корректного цитирования и соблюдения правил журнала. Это не замена издательским системам, а общая рамка: перед подачей рукописи автор всё равно должен свериться с требованиями конкретного журнала.

– На студентов, молодых ученых, которые должны готовить рефераты и курсовые работы, это правило тоже может распространяться?

– Если правила конкретной учебной или квалификационной работы требуют самостоятельной подготовки текста, использовать ИИ для написания текста и выдавать его за свой нельзя. В других случаях допустимость зависит от задания и правил образовательной организации, а использование ИИ должно быть прозрачным.

Мы же говорим о научных публикациях, где важны научный результат, достоверность, воспроизводимость и ответственность автора, а обязательного требования вручную набирать весь текст обычно нет. технический способ подготовки и редактирования текста вторичен.

– Как вы думаете, представители других научных направлений, математики, физики, биологи возьмут на вооружение ваши правила?

– Разъяснения и регламентирующие документы нужны в разных специальностях, так как для разных областей наук могут быть свои особенности. Мы специально рассмотрели основополагающие моменты и назвали статью «Искусственный интеллект в подготовке научных статей». Хотя она написана в химическом контексте, сами базовые принципы – прозрачность, проверка и ответственность человека – применимы шире. Я думаю, что в ближайшем будущем мы увидим подобные регламентирующие документы в разных специальностях.

Источник