Декілька топ-менеджерів залишили провідні компанії з розробки штучного інтелекту через побоювання бути причетними до зникнення людства. Про це повідомляє «Главком» із посиланням на Axios.

У матеріалі йдеться, що питання про безмежні можливості нейромереж все частіше стає предметом обговорень серед співробітників Google, Meta та OpenAI. Наприклад, Ілон Маск переконаний, що ризик знищення людства штучним інтелектом становить 20%, генеральний директор Google Сундар Пічаї називає таку ймовірність «досить високою», а керівник Anthropic Даріо Амодеї говорить про 10-25%.

«Творці ШІ визнають, що не знають точно, як він працює. Вони бачать ймовірність того, що він знищить людство, як співвідношення 1:10, можливо, 1:5. Ви б сіли в літак за таких шансів? Ви би побудували літак і пустили б інших за таких шансів?» – заявили співзасновники Axios Джим Вандехей і Майкл Аллен.

Загалом побоювання дослідників виправдані. Справа в тому, що частина роботи штучного інтелекту генерується самостійно. Так, IT-фахівці у галузі мовних моделей іноді самі не знають, чому великі системи реагують на запит саме так.

Ба більше, прагнення компаній створити покращені версії нейромереж може призвести до того, що робота мереж не контролюватиметься фахівцями, адже «віртуальні аспіранти, які працюють разом на надсвітловій швидкості», не захочуть комусь підкорятися.

До речі, Україна починає розробку власної великої мовної моделі штучного інтелекту – національного аналога ChatGPT. Про це повідомив віцепрем’єр із питань цифрової трансформації Михайло Федоров.

Раніше стало відомо, що компанія Mattel, всесвітньо відомий виробник іграшок, зокрема ляльок Барбі, машинок Hot Wheels та карт Uno, оголосила про співпрацю з OpenAI. Метою цього партнерства є розробка іграшок та ігор зі штучним інтелектом.