8 квадрильйонів років на перевірку: вчені довели неможливість безпечного ШІ
ШІ ніколи не буде ідеальним (фото: Magnific)
Штучний інтелект неможливо зробити на 100 відсотків передбачуваним і безпечним - цьому заважають фундаментальні математичні обмеження. Вчені виділяють щонайменше 2 межі, які не можна подолати навіть за необмежених обчислювальних потужностей.
Про це інформує РБК-Україна, посилаючись на дослідження, опубліковане у Transactions of the American Mathematical Society.
Що каже математика?
Перша перепона - це брак часу.
У математиці існує класична "задача комбінаторики": уявній програмі потрібно знайти найкоротший маршрут для кур'єра, який має об'їхати декілька міст і повернутися назад.
Якщо міст лише 10, звичайний комп'ютер знаходить варіант за частки секунди.
Але якщо міст стає 20, кількість можливих комбінацій зростає до 2,4 квінтильйона, а час розрахунку збільшується до 77 років. А якщо міст 30, кількість комбінацій сягає астрономічного числа з 32 нулями (понад 260 нонільйонів).
Щоби просто перебрати всі ці шляхи, найшвидшому комп'ютеру знадобиться 8,4 квадрильйона років. Це приблизно у 600 тисяч разів довше, ніж існує наш Всесвіт.
Жодне прискорення процесорів не здатне це виправити, адже швидкість зростання кількості варіантів завжди випереджає будь-які технологічні досягнення.
Друга перепона - це питання, на які, в принципі, не існує алгоритмічної відповіді.
Ще у 1953 році була доведена теорема Райса. Вона говорить про те, що жодна програма не здатна автоматично перевірити довільний код і гарантувати, що він завжди поводитиметься саме так, як замислив автор.
Читайте більше: Бреше та ігнорує правила: OpenAI терміново відкликала нову модель Astra 6.1
Чому це заважає зробити ШІ безпечним?
Проблема вирівнювання ШІ - тобто гарантія того, що система діятиме виключно на користь людини та не завдасть шкоди - стикається з обома цими бар'єрами одночасно.
Брак часу на перевірку: щоб перевірити лише 6 параметрів безпеки із 10 варіантами налаштувань у кожному, комп'ютеру треба проаналізувати мільйон комбінацій.
У реальних системах безпеки таких параметрів значно більше.
Неможливість точного доказу: гарантувати, що ШІ поводитиметься безпечно за будь-яких можливих ситуацій і команд, математично неможливо саме через теорему Райса.
Через це вчені відмовилися від ідеї "математично довести безпеку" і використовують лише обмежені тести.
Більше цікавого: Робот-гуманоїд заплакав на публіці: як Yansyn-X2 імітує емпатію
Квантові комп'ютери та практичний компроміс
Квантові обчислення часто вважають панацеєю. Науковці акцентують: вони лише відсувають стіну, а не прибирають її.
Так, відомий квантовий алгоритм Гровера 1996 року дозволяє суттєво прискорити пошук. Завдяки йому розрахунок для 20 міст скорочується з 77 років до двох секунд, а для 30 міст - з 8.4 квадрильйона років до шести місяців.
Проте якщо кількість міст чи параметрів зростатиме далі, вибухове збільшення комбінацій знову випереджатиме навіть квантові потужності.
У реальному житті подібні складні задачі вирішують зміною самого підходу до слова "розв'язок".
Як саме?
Логістичні компанії щодня будують детальні маршрути для тисяч вантажівок за допомогою спрощених правил: вони отримують маршрут, який лише на кілька відсотків відрізняється від ідеального, але це робиться за лічені секунди.
Прикладний ШІ працює точно так само: розробники будують системи, які демонструють високу ефективність, не надаючи при цьому абсолютних математичних гарантій.
Досконаліша модель ШІ не змінює законів математики - вона просто робить свої приблизні здогадки значно точнішими.
