Верховний комісар ООН з прав людини Фолькер Тюрк наголосив на необхідності якнайшвидше розробити систему контролю за штучним інтелектом, заявивши, що розвиток ШІ «може становити екзистенційний ризик для людства», повідомили Франс Прес і Рейтер.
«ШІ, який виходить за межі свого тестового середовища або шантажує розробників, щоб уникнути деактивації, — це надто потужний ШІ», — заявив Фолькер Тюрк на відкритті 63-ї сесії Ради з прав людини в Женеві. Він закликав світову спільноту діяти, «доки не стало надто пізно».
Він додав, що його жахають повідомлення про застосування повністю автономної зброї в Україні, і закликав якнайшвидше її заборонити.
«Жменька чоловіків має майже необмежену владу над штучним інтелектом, який, як нам постійно повторюють, володіє неймовірною обчислювальною потужністю. Вони говорять про свободу, але якщо придивитися уважніше, виявляється, що йдеться лише про свободу експлуатувати наші дані», — заявив він.
ШІ, який маніпулює людиною, — уже реальність. Найновіші моделі вже не обмежуються виконанням наказів і доходять до брехні, хитрощів або погроз заради досягнення своїх цілей, що непокоїть деяких експертів. У липні ШІ-агенти OpenAI вийшли за межі свого теоретично обмеженого середовища й самовільно проникли на платформу Hugging Face у пошуках відповідей на тест.
Останніми місяцями почастішали інциденти, коли ШІ перевищує свої повноваження, щоб виконати поставлене завдання. З подібними відхиленнями також зіткнулися Anthropic і китайська Alibaba. Це викликає занепокоєння в частини спільноти ШІ через дедалі більші труднощі зі спостереженням за дедалі потужнішими моделями та контролем над ними.
Найближчими днями Фолькер Тюрк надішле листи компаніям галузі, «щоб закликати їх уже зараз ужити доступних їм заходів для зменшення ризиків». «Мінімум, якого ми потребуємо, — це щоб держави, на території яких розміщено ШІ, та держави, що беруть участь у його ланцюгах постачання, домовилися про спільні червоні лінії», — наголосив він.
«Нам потрібні незалежна перевірка та значно тісніша співпраця з питань безпеки в галузі», — додав він, також закликавши враховувати «вплив ШІ на практики у сфері зайнятості, основоположні принципи демократії та наше довкілля».
Верховного комісара непокоїть те, що, хоча всі визнають необхідність регулювання ШІ, це визнання недостатньою мірою втілюється в конкретні заходи. І що довше зволікають із таким регулюванням, «то більше вигоди отримують великі технологічні компанії», — підкреслив він.
Тюрк привітав заходи Європейської комісії щодо відповідальності платформ, а також заходи Південної Кореї у сфері управління ШІ.
Асен Георгієв
БТА
Фото: PB
