Промпти для ШІ можуть працювати проти вас: глава Microsoft зробив гучну заяву
Генеральний директор Microsoft Сатья Наделла опублікував резонансний блог, у якому попередив корпоративних клієнтів про приховану небезпеку використання закритих комерційних ШІ-моделей.
Про це пише РБК-Україна з посиланням на публікацію Наделли.
Пастка комерційного ШІ: як бізнес власноруч навчає майбутніх конкурентів
За словами Наделли, головна небезпека криється у "цифровому вихлопі" - промптах, які пишуть ІТ-фахівці, діях автономних агентів та, найголовніше, виправленнях, які люди вносять, коли модель помиляється.
Кожне таке коригування перетворюється на готове інституційне ноу-хау, яке закриті ШІ-лабораторії збирають та акумулюють у своїх системах.
Основні загрози для бізнесу за умов поточного статус-кво:
Розробники моделей отримують знання про унікальні нюанси роботи чужого бізнесу, які жоден конкурент ніколи не зміг би купити на ринку;
Автори закритих систем безкоштовно збирають дані з усього інтернету для навчання, але встановлюють суворі обмеження на "дистиляцію" - практику використання їхніх відповідей для навчання інших моделей;
Компанії, що створюють ШІ, залишають за собою право вчитися на взаємодії з клієнтами, отримуючи потенційну можливість стати прямими конкурентами для своїх же клієнтів.
"Вживаючи інтелект, ви створюєте інтелект. І те, що ви створюєте, має належати лише вам", - наголошує керівник Microsoft.
Як рішення Наделла пропонує компаніям зберігати повне право власності на свої промпти та відгуки, створюючи власні закриті середовища навчання у хмарі, а також впроваджувати інструменти оркестрації (шлюзи), які дозволяють легко перемикатися між різними постачальниками технологій.
Нова хвиля: корпоративний сектор масово переходить на open source
Попередження від голови Microsoft підтверджує масштабний тренд, який уже фіксують аналітики ІТ-ринку.
Великі корпорації, що поекспериментували із закритими комерційними системами, починають масово розгортати безкоштовні моделі з відкритим кодом на власних серверах всередині компаній (on-premise).
За даними розробника безпекового софту Solo.io, такі гіганти як T-Mobile, ADP та SAP дедалі частіше віддають перевагу повному контролю над залізом та даними, оскільки сучасний open source виконує до 90% функцій великих комерційних моделей, однак коштує значно дешевше.
Зсув наочно демонструє статистика великих розробницьких платформ. Компанії Vercel та OpenRouter зафіксували стрімкий стрибок трафіку у напрямку відкритих нейромереж.
Зокрема, минулого місяця на відкриті моделі припало вже 29% усього обсягу даних, що пройшли через мережеві шлюзи Vercel.
Враховуючи, що навіть Microsoft - головний інвестор OpenAI та Anthropic - закликає бізнес до обережності, ринок корпоративного ШІ неминуче рухається в бік децентралізації та захисту комерційної таємниці.