Саме ця проблема — «бездушність» штучного інтелекту — стала одним із головних викликів сучасної технологічної індустрії.
Приєднуйтесь до нашої групи "Оперативно" у Телеграм та Вайбер, щоб першими знати важливі та актуальні новини!
Дослідники попереджають, що мовні моделі можуть звучати співчутливо й розумно, але насправді вони лише відтворюють статистичні закономірності мови, а не приймають моральні рішення, пише osvitoria.media.
Отже ключове питання при стрімкому розвитку ШІ: як навчити штучний інтелект поводитися етично?
У компанії Anthropic вирішили підійти до цієї проблеми незвично — і запросили до команди філософиню.
Філософиня, яка вчить чат-бот бути «хорошим»
37-річна дослідниця Аманда Аскелл працює в компанії Anthropic — одному з найвпливовіших розробників штучного інтелекту у світі. До цього вона вивчала філософію в Оксфордському університеті та Нью-Йоркському університеті й працювала дослідницею в OpenAI.
Її роль у компанії звучить незвично навіть для технологічної індустрії.
Як написала газета The Wall Street Journal: «Її робота, простими словами, — навчити Claude бути хорошим».
Claude — це великий мовний чат-бот компанії Anthropic, один із головних конкурентів ChatGPT. Щотижня він веде мільйони розмов із користувачами.
Завдання Аскелл — сформувати його моральний компас.
У матеріалах про її роботу журналісти часто порівнюють цей процес із вихованням дитини. Дослідниця аналізує відповіді моделі, тестує її реакції на складні ситуації і допомагає формувати принципи, за якими вона повинна діяти.
В інтерв’ю вона пояснює, що мовні моделі мають сильний «людиноподібний» компонент, адже навчаються на людських текстах.
«У цих моделей є людська складова, і це важливо визнавати», — зазначає вона.
«Документ душі»: як формують характер штучного інтелекту
Щоб сформувати моральні принципи чат-бота, Аскелл написала документ обсягом приблизно 30 тисяч слів. Усередині компанії його іноді називають «soul document» — «документом душі».
У ньому описані:
-
які цінності має підтримувати модель;
-
як реагувати на маніпуляції користувачів;
-
як поводитися в етичних дилемах;
-
як балансувати чесність, безпеку і корисність.
Журналісти Vox пояснюють, що цей документ фактично визначає характер чат-бота, підкреслюючи чесність, мудрість і відповідальність.
Сам підхід називається Constitutional AI — «конституційний штучний інтелект».
Ідея полягає в тому, що модель отримує набір етичних принципів і використовує їх, щоб перевіряти власні відповіді. Замість жорстких заборон система навчається міркувати про моральні рішення.
Про подібні підходи до створення «конституції» для мовних моделей також пише Axios.
Як на це реагують науковці і техіндустрія
Робота Аманди Аскелл викликала активну дискусію серед дослідників штучного інтелекту.
Багато експертів підтримують ідею етичного «вирівнювання» моделей (AI alignment), адже без такого підходу потужні системи можуть створювати небезпечні або маніпулятивні відповіді.
Водночас інші дослідники попереджають про ризик антропоморфізації — коли люди починають сприймати машини як істот із почуттями.
Наприклад, у дискусіях про майбутнє таких систем деякі науковці навіть обговорюють, чи можуть складні мовні моделі колись отримати певний моральний статус — хоча це питання залишається відкритим.
Іноді суперечки виходять і за межі академічних дискусій. Наприклад, у соцмережах виникла публічна суперечка між Аскелл та Ілоном Маском щодо того, як людство повинно ставитися до майбутнього штучного інтелекту.
Новий тип професії — філософ штучного інтелекту
Історія Аманди Аскелл показує, що розвиток штучного інтелекту залежить не лише від програмістів.
Щоб створювати безпечні технології, компанії змушені відповідати на запитання, які людство обговорює вже тисячі років:
-
що таке добро і зло,
-
як ухвалювати справедливі рішення,
-
як поєднати свободу і відповідальність.
Саме тому у великих технологічних компаніях з’являється нова роль — філософа штучного інтелекту.
І від того, які відповіді знайдуть ці люди, залежить не лише майбутнє технологій, а й те, якими партнерами для людей стануть машини.
Джерело: osvitoria.media
Перегляньте цікаві новини:
Найбільша карта церков України
Більше рубрик та новин тут