Міністерство цифрової трансформації розробило рекомендації з використання систем штучного інтелекту у науковій сфері, які визначають допустимі способи застосування ШІ під час проведення досліджень, підготовки наукових публікацій, дисертацій, грантових заявок, рецензування та експертного оцінювання.
Приєднуйтесь до нашої групи "Оперативно" у Телеграм та Вайбер, щоб першими знати важливі та актуальні новини!
Документ покликаний допомогти науковцям використовувати сучасні технології без порушень академічної доброчесності, забезпечити захист персональних даних і зберегти відповідальність людини за результати досліджень, пише sud.ua.
Водночас у самому документі наголошується, що рекомендації мають рамковий характер і не є окремим нормативно-правовим актом, крім положень, які відтворюють обов’язкові вимоги законодавства. Вони не замінюють законів, умов грантових угод, правил наукових установ і видавництв.
«Судово-юридична газета» проаналізувала рекомендації Мінцифри та з’ясувала, як саме науковцям дозволено використовувати штучний інтелект, які обмеження передбачені документом і чи можуть результати перевірки ШІ-детекторами стати підставою для звинувачення в порушенні академічної доброчесності.
Штучний інтелект не може бути автором або співавтором наукової роботи
Одним із ключових положень рекомендацій є збереження виключної відповідальності людини за науковий результат.
ШІ може допомагати формулювати дослідницькі питання, пропонувати гіпотези, аналізувати інформацію, створювати програмний код, редагувати тексти та готувати візуалізації. Проте він не може отримувати статус автора або співавтора наукової роботи.
У рекомендаціях пояснюється, що системи ШІ не здатні брати на себе етичні зобов’язання, підтверджувати остаточну версію дослідження, повідомляти про конфлікт інтересів або відповідати за порушення авторського права та академічної доброчесності.
Тому відповідальність за достовірність фактів, використані джерела, методологію, розрахунки, інтерпретації та висновки залишається за дослідниками.
Крім того, ШІ не може зазначатися як науковий керівник, рецензент або інший суб’єкт наукової відповідальності.
Які способи використання ШІ дозволяються, а які є неприпустимими
У документі передбачено три режими використання штучного інтелекту в науковій діяльності.
Перший — допустиме та підтримуване використання. До нього належать завдання, які можна перевірити та які не підмінюють самостійної наукової роботи людини.
Зокрема, ШІ може використовуватися для автоматичної перевірки правопису, базового форматування документів, редагування та перекладу авторського тексту без зміни його наукового змісту, пошуку ключових слів, упорядкування метаданих, структурування власних ідей дослідника та виконання нескладних технічних завдань із програмним кодом.
Другий — використання за визначених умов і запобіжників. Йдеться про ситуації, коли штучний інтелект істотно впливає на методологію дослідження, аналіз інформації, програмування, створення зображень, моделювання або формування наукових результатів.
Таке застосування потребує перевірки придатності інструменту, захисту даних, належного людського контролю та документування відповідних процедур. За потреби результати мають проходити незалежну перевірку.
Третій — використання, несумісне з принципами відповідальної науки.
До таких практик рекомендації відносять фабрикацію чи фальсифікацію даних, джерел, зображень і результатів досліджень, приховування плагіату, подання вигаданих або синтетичних матеріалів як реальних результатів експериментів, неправомірне розкриття конфіденційної інформації та маніпулювання рецензуванням.
Також неприпустимим визначено використання результатів ШІ як єдиної або визначальної підстави для остаточних рішень щодо фінансування досліджень, працевлаштування, присудження наукової кваліфікації, встановлення порушень чи застосування санкцій.
Коли науковці повинні повідомляти про використання ШІ
Окрему увагу приділено прозорості використання штучного інтелекту.
Рекомендації передбачають, що науковці мають розкривати інформацію не просто про факт застосування певної нейромережі, а про конкретні завдання, які вона виконувала під час підготовки роботи.
Зокрема, публічна декларація потрібна, якщо ШІ створював, перекладав, перефразовував або узагальнював змістовний науковий текст, допомагав формувати гіпотези чи аргументацію, генерував або змінював код, таблиці, зображення чи дані, а також виконував аналіз або моделювання, використані під час формування висновків.
Для такого розкриття рекомендовано застосовувати таксономію GAIDeT (Generative AI Delegation Taxonomy), яка дозволяє описати конкретні завдання, делеговані генеративному ШІ.
Якщо ШІ був частиною методології дослідження, відомості про його використання необхідно також наводити в розділі «Методи». Загальної декларації в такому випадку недостатньо.
Водночас звичайна автоматична перевірка орфографії, граматики чи базове форматування тексту зазвичай не потребують окремої декларації, якщо інше не встановлено відповідними правилами.
Також документ не передбачає універсального обов’язку зберігати всі запити до нейромереж і повну історію взаємодії з ними.
Рецензентам не рекомендують завантажувати чужі наукові роботи до нейромереж
Для рецензентів, експертів і членів наукових комісій передбачено суворіші умови використання ШІ, оскільки вони працюють із чужими матеріалами, які часто є конфіденційними.
Зокрема, відсутність прямої заборони на використання нейромережі не означає автоматичного дозволу передавати їй рукописи, грантові заявки чи дисертації.
Рецензентам рекомендовано не завантажувати відповідні матеріали до систем ШІ, якщо це прямо не дозволено політикою наукового журналу та не забезпечено погодженого захищеного середовища.
За наявності дозволу нейромережі можна використовувати для технічної перевірки комплектності документів, організації власних нотаток або мовного редагування вже підготовленої рецензії.
Однак оцінювання наукової новизни, методологічної коректності, достовірності результатів, етичної прийнятності та формування остаточних рекомендацій залишаються виключно за рецензентом.
Аналогічний підхід передбачено для оцінювання дисертацій і грантових заявок. ШІ не можна делегувати виставлення підсумкових балів, ранжування заявників, визначення переможців або підготовку остаточного експертного висновку.
Високий відсоток ШІ в тексті не доводить порушення академічної доброчесності
Одна з важливих частин рекомендацій стосується використання автоматичних детекторів ШІ.
У документі прямо зазначено, що рутинне або обов’язкове застосування таких детекторів для перевірки наукових робіт, дисертацій, рукописів чи грантових заявок не рекомендується.
Причина полягає в тому, що ці системи надають лише ймовірнісну оцінку та не можуть достовірно визначити автора тексту, фактичний спосіб його створення, наявність умислу або порушення академічної доброчесності.
Крім того, точність детекторів може відрізнятися залежно від мови, стилю, наукової дисципліни та інших особливостей тексту.
Тому відсоток, визначений таким інструментом, не може бути єдиною або визначальною підставою для відхилення наукової роботи, відмови у фінансуванні, неприсудження кваліфікації, застосування санкцій чи відкликання публікації.
Рекомендації також не допускають установлення універсального відсоткового порога, після перевищення якого наукова робота автоматично вважатиметься порушенням.
Науковець не зобов’язаний доводити, що не використовував ШІ
Окремий розділ документа присвячено процедурі розгляду можливих порушень.
У ньому наголошується, що сам факт використання штучного інтелекту не є порушенням академічної доброчесності. Оцінювати необхідно конкретні дії дослідника, їхні наслідки та відповідність правилам, які діяли на момент підготовки роботи.
При цьому особа не зобов’язана доводити, що не використовувала штучний інтелект.
Обов’язок установити конкретне порушення на підставі належних і достатніх доказів покладається на орган, який ухвалює відповідне рішення.
Науковець, щодо якого виникли підозри, має право отримати інформацію про можливе порушення, ознайомитися з матеріалами, надати пояснення та додаткові докази, а також оскаржити ухвалене рішення.
Саме по собі використання ШІ, незвичний стиль викладу, мовна правильність тексту або відсутність збережених запитів до нейромережі не можуть вважатися достатніми доказами порушення.
Водночас рекомендації розмежовують ненавмисні помилки, неповне розкриття використання ШІ та серйозні порушення, зокрема фабрикацію даних або плагіат.
Якщо недолік можна усунути без зміни основних наукових висновків, документ передбачає можливість виправлення матеріалу чи уточнення декларації. Відкликання публікації розглядається у випадках, коли результати є недостовірними й не можуть бути належно виправлені або встановлено серйозні порушення доброчесності.
Які правила мають запровадити наукові установи
Рекомендації також передбачають розроблення внутрішніх політик використання ШІ в наукових установах, закладах вищої освіти, редакціях наукових журналів та організаціях, що фінансують дослідження.
Такі правила мають визначати допустимі інструменти та способи їх застосування, вимоги до конфіденційності, порядок декларування використання ШІ, відповідальних осіб, процедури перевірки можливих порушень та механізми оскарження рішень.
Окремо рекомендовано забезпечити доступ до безпечних інструментів, навчання та консультаційної підтримки дослідників.
При цьому внутрішні політики пропонується переглядати, як правило, не рідше одного разу на два роки, а також після істотних технологічних або законодавчих змін.
У Мінцифри підкреслюють, що головним принципом відповідального використання ШІ залишається людський контроль над науковими результатами. Алгоритми можуть допомагати дослідникам на різних етапах роботи, але не замінюють професійного судження, авторського внеску та персональної відповідальності.
Мінцифра запрошує академічну спільноту ознайомитися з посібником та детально вивчити правила безпечної інтеграції алгоритмів у роботу. Читайте повний текст документа за посиланням.
Джерело: sud.ua
Перегляньте цікаві новини:
Найбільша карта церков України
Більше рубрик та новин тут