Декілька топ-менеджерів залишили провідні компанії з розробки штучного інтелекту через побоювання бути причетними до зникнення людства. Про це повідомляє Главком із посиланням на Axios.
Приєднуйтесь до нашої групи "Оперативно" у Телеграм та Вайбер, щоб першими знати важливі та актуальні новини!
У матеріалі йдеться, що питання про безмежні можливості нейромереж все частіше стає предметом обговорень серед співробітників Google, Meta та OpenAI. Наприклад, Ілон Маск переконаний, що ризик знищення людства штучним інтелектом становить 20%, генеральний директор Google Сундар Пічаї називає таку ймовірність «досить високою», а керівник Anthropic Даріо Амодеї говорить про 10-25%.
«Творці ШІ визнають, що не знають точно, як він працює. Вони бачать ймовірність того, що він знищить людство, як співвідношення 1:10, можливо, 1:5. Ви б сіли в літак за таких шансів? Ви би побудували літак і пустили б інших за таких шансів?», – заявили співзасновники Axios Джим Вандехей і Майкл Аллен.
Загалом побоювання дослідників виправдані. Справа в тому, що частина роботи штучного інтелекту генерується самостійно. Так, IT-фахівці у галузі мовних моделей іноді самі не знають, чому великі системи реагують на запит саме так.
Ба більше, прагнення компаній створити покращені версії нейромереж може призвести до того, що робота мереж не контролюватиметься фахівцями, адже «віртуальні аспіранти, які працюють разом на надсвітловій швидкості», не захочуть комусь підкорятися.
Джерело: Главком
Перегляньте цікаві новини:
Найбільша карта церков України
Більше рубрик та новин тут