Дискуссия по вопросам искусственного интеллекта, честности и открытого контента

Фото freepik.com

Образовательный блог Scholarly Kitchen («Научная кухня») опубликовал содержание дискуссии о том, как искусственный интеллект (ИИ) повлияет на научную коммуникацию. Мероприятие прошло в октябре 2023 г. на крупнейшей в мире Франкфуртской книжной ярмарке. Публикуем русский перевод статьи с сокращениями.

Как технологии ИИ влияют на такие ключевые тенденции, как открытый доступ и честность исследований в научном дискурсе? 

Участники дискуссии охватили много концептуальных вопросов: от применения авторского права для открытого контента до того, как генеративные нейросети влияют на проблемы авторства, от моделей потребления открытого научного контента до того, как ИИ бросает вызов нашим представлениям об ответственности. 

Как обучать (или не обучать) модель

В настоящее время наблюдается захватывающее взаимодействие между открытым контентом и разработкой инструментов ИИ, с одной стороны, и последствиями для создания и использования открытого контента — с другой. Часть все более утверждающегося определения открытого контента сосредоточена на лицензировании и системе распределения авторских прав на этот контент. Между тем, многие вопросы авторского права и лицензирования являются предметом нескольких судебных разбирательств и растущего регулирования в связи с использованием ИИ.

Это побудило некоторых разработчиков больших языковых моделей (LLM, Large Language Model) обучать свои модели на открытом контенте, массив которого в настоящее время быстро и значительно растет. При этом в интересах всех — обучать эти модели на проверенных научных источниках, а не на «всем, что модель может найти в интернете», где контент может быть самым разным: от сомнительного до намеренно некорректного. 

Позитивное использование ИИ для открытого контента

Инструменты на основе ИИ уже широко применяются в различных областях науки, позволяя исследователям более точно и быстро генерировать научные результаты. Типы вычислительных моделей искусственного интеллекта используют для медицинского анализа, сканирования данных космических снимков и разработки метеорологических моделей, их применяют в биологии, химии, геномике. 

Мы хотим доверять ИИ. Но как это сделать?

Потенциальные проблемы, которые возникают в результате все более широкого использования инструментов на основе ИИ, вызвали оживленное обсуждение. Участники дискуссии размышляли о разработке новых правил обмена цифровой научной информацией и о том, что инструменты искусственного интеллекта могут помочь обнаружить и понять, как каждый из элементов научной работы сочетается с другими, образуя единое целое. 

Куда мы можем двигаться дальше?

Заключительным тезисом в дискуссии о применении искусственного интеллекта в научных коммуникациях стала необходимость решить вопросы, связанные с достоверностью данных, которые используются для разработки моделей:  

• чтобы можно было доверять качеству этих данных;
• чтобы модель применялась для конкретной цели. 

Возможно, еще слишком рано полностью осознавать все последствия этих новых инструментов, но уже сейчас важно оценивать их потенциальное влияние на организации и научное сообщество в целом.