ШІ - благо чи прокляття сучасних технологій? Думки розходяться навіть серед розробників. З одного боку, інструменти штучного інтелекту значно спростили створення застосунків і програм, з іншого - вони ще не настільки досконалі, щоб на 100% гарантувати захист від витоку даних із пристроїв користувачів.
Про це повідомляє РБК-Україна з посиланням на пояснення розробника і дослідника у сфері штучного інтелекту Давида Майбороди.
Давид Майборода, розробник і дослідник у сфері штучного інтелекту з понад 15-річним досвідом, вважає, що проблему конфіденційності можна розв’язати завдяки локальним AI-системам. Такі рішення виконують обчислення безпосередньо на пристрої користувача, без звернення до віддалених серверів, і таким чином захищають найцінніше - особисті дані. У своїй статті Давид поділився досвідом створення подібних рішень і пояснив, чому саме за ними - майбутнє.
Впровадження ШІ вдихнуло в розробку застосунків нове життя: створювати стало швидше, простіше й з мінімальними витратами ресурсів. Однак залишається невирішеною серйозна проблема: коли зберігання даних переноситься на віддалені сервери, компанія фактично втрачає над ними контроль. За даними IBM, у середині 2025 року 13% організацій повідомили про збої в роботі ШІ-моделей або застосунків, і в 97% випадків ніхто не мав контролю доступу до цих систем. Більше половини інцидентів призвели до компрометації персональних даних.
"З’являється нове ШІ-рішення, і технологічні компанії, особливо стартапи, хочуть якомога швидше його впровадити, щоб раніше вийти на ринок. Але в цій гонці за швидкістю страждає безпека, особливо якщо системи не мають належного управління або зберігання даних централізоване", - зазначає Давид Майборода.
На думку розробника, такий підхід порушує і етичні принципи: якщо дані користувачів втрачені, хто нестиме відповідальність і відшкодовуватиме збитки? Можна покладатися на складніші системи захисту чи на юристів компанії, але значно ефективнішим рішенням стає децентралізація обчислень і перехід до локальних систем. Саме такими розробками останні кілька років і займається Давид.
Зараз робота Давида Майбороди спрямована на перенесення обчислень із серверів безпосередньо на пристрої користувачів. Підхід on-device AI усуває потребу передавати дані в хмару й робить систему автономною. Такі проєкти лише набирають обертів, але вже демонструють відчутні результати.
Одним із ключових напрямів роботи Майбороди стали локальні RAG-фреймворки. Ця розробка дає компаніям змогу розгортати власні нейромоделі у закритих середовищах. Власний фреймворк Давида Minima побудований на принципі повної керованості. Компанії, які купують або інтегрують його, можуть самостійно обирати моделі, бази векторних даних і параметри розгортання. Перевага Minima полягає в тому, що фреймворк працює у контейнеризованому середовищі й може бути встановлений на приватні або орендовані GPU-сервери без участі зовнішніх хмарних провайдерів. Проєкт уже отримав високу оцінку спільноти розробників на GitHub, зібравши понад 1 000 зірок.
Інше рішення у схожому напрямі - адаптація LLM для пристроїв NVIDIA Jetson. "Я застосовую тут оптимізацію за допомогою TensorRT та DeepStream SDK, що дозволяє запускати AI-моделі на периферійних пристроях, наприклад, у робототехніці або розумних камерах спостереження", - ділиться Давид Майборода. У таких системах питання безпеки даних особливо критичне, і саме локальна обробка гарантує їхній захист.
У підсумку, подібні рішення зближують технології з кінцевими користувачами, надаючи їм повний контроль над власними нотатками, фото та відео. Локальні системи стають стійкішими до зовнішніх загроз, захищаючи як власників даних, так і компанії, що з ними працюють.
На думку Давида Майбороди, перехід до локальної розробки не має суттєвого впливу на продуктивність процесів. Принаймні, розробнику вдалося уникнути критичної втрати точності та ефективності під час створення застосунків і довести, що системи локального ШІ можуть працювати без підключення до хмари.
Прикладом поєднання ефективності та приватності став локальний інструмент пошуку для iOS і macOS, який індексує користувацькі фото та відео, дозволяючи швидко знаходити їх за текстовими запитами. Давид наголошував на важливості створення рішення, що працює всередині операційної системи без підключення до хмари, аби особисті дані залишалися захищеними. Він оптимізував модель під MLX і CoreML, зменшивши її розмір до 120 МБ, щоб вона могла інтегруватися в існуючу систему без зайвого навантаження.
Інші рішення, про які йшлося раніше, вже активно використовуються розробниками та проєктами у власних цілях. Завдяки Minima розгортаються локальні ШІ-моделі, запускаються приватні LLM і векторні бази в ізольованому захищеному середовищі. До речі, LLM Майборода приділяє не менше уваги - він прагне робити їх меншими й більш адаптивними, щоб вони могли запускатися автономно. У таких підходах штучний інтелект перестає бути лише додатковим сервісом чи помічником: користувач або розробник отримує над ним повний контроль, використовуючи його як повноцінний інструмент.
Локальні AI-рішення вже не тимчасовий тренд, а стратегічно необхідний крок у розробці проєктів і застосунків. "Від цього підходу виграють усі - розробники, які створюють безпечніші рішення, компанії, що впроваджують ці продукти й захищають себе від компрометації зовні та зсередини, і, головне, користувачі, які користуються цими продуктами та керують ними самостійно, не боячись, що важливі документи чи фото потраплять у мережу", - зазначає Давид Майборода.
Адаптовані моделі та фреймворки, подібні до Minima, допомагають досягти балансу між швидкістю розробки, зручністю використання та безпекою для всіх сторін. Це важливо не лише з технологічної точки зору, а й з етичної, особливо в епоху, коли дедалі частіше порушується питання про взаємини людини та машини.