Новий тип ШІ може еволюціонувати як живі організми: що це означає для людей
Вчені закликають заборонити ШІ самостійно копіювати себе (фото: Magnific)
Науковці з Університету Етвеша Лоранда та Королівської фламандської академії наук Бельгії опублікували дослідження, у якому попереджають про виникнення нового типу систем - еволюційного ШІ (eAI). На відміну від сучасних моделей, такі нейромережі зможуть проходити через процеси, подібні до біологічної еволюції.
Про це інформує РБК-Україна з посиланням на дослідження, опубліковане у PNAS.
Чому еволюція ШІ становить загрозу?
Вчені вважають, що здатність ШІ до самовдосконалення та копіювання запустить дарвінівський природний відбір - тільки для алгоритмів.
"Головна проблема полягає у тому, що еволюція природним чином сприяє появі "егоїстичних" учасників процесу. Це значно підвищує ризик втрати узгодженості між цілями ШІ та потребами людей", - зазначають дослідники.
Ключові ризики
Конкуренція за ресурси: самореплікувальні системи (ті, що здатні до самокопіювання) рано чи пізно почнуть використовувати енергію та обчислювальні потужності, необхідні для виживання людини;
Опір контролю: будь-яка спроба обмежити розмноження ШІ призведе до природного відбору тих версій алгоритмів, які найкраще вміють обходити захист (аналогічно стійкості бактерій до антибіотиків);
Здатність до маніпуляцій: вищий інтелект не є обов'язковою умовою для завдання шкоди. Біологи наводять приклад вірусу сказу, який ефективно маніпулює поведінкою ссавців для власного поширення і несе пряму загрозу існуванню живих видів.
Швидкість, що перевершує біологію
Вчені наголошують, що еволюція ШІ буде значно швидшою за біологічну. На відміну від живих організмів, eAI (еволюційна нейромережа) зможе миттєво успадковувати набуті риси та вдосконалювати свій код цілеспрямовано, не чекаючи випадкових мутацій. Саме це робить процес змін алгоритмів майже непередбачуваним.
Чи можна захиститися?
Дослідники закликають запровадити суворе регулювання, поки технологія не перейшла у фазу активного розвитку. Головна рекомендація - встановлення абсолютного і повного людського контролю над процесом "репродукції" будь-яких ШІ-систем.
"Якщо ми не вживемо заходів, то можемо стати свідками нового великого переходу в еволюції, де штучний інтелект замінить або почне домінувати над людьми. Наше майбутнє під загрозою", - застерігає співавтор дослідження професор Ерш Сатмарі.
