Контроль замість безпеки: OpenAI та Anthropic приховують звіти про ризики ШІ
Anthropic та OpenAI хочуть контролювати матеріали незалежних експертів, які перевіряють безпеку їхніх ШІ-моделей. Компанії побоюються, що публікація таких документів може розкрити комерційні таємниці й технологічні розробки.
Про це пише РБК-Україна з посиланням на Reuters.
Суперечки через право на публікацію
Зазначається, що розробники побоюються, що залучені аудитори можуть передати секретні технології конкурентам. Через це лабораторії намагаються обмежити право оцінювачів вільно публікувати свої висновки без попереднього схвалення.
Ситуація викликає занепокоєння у науковій спільноті, адже інформація, яку компанії вважають комерційною таємницею, часто збігається з даними про потенційні ризики та небезпеку ШІ-моделей.
Для захисту даних розглядаються такі заходи
- Спостереження за аудиторами: встановлення нагляду з боку штатних працівників компанії під час роботи зовнішніх фахівців.
- Заборона сумісництва: аудиторам заборонять одночасно працювати у кількох конкуруючих ШІ-лабораторіях.
Більше цікавого: Небезпечний збій у ШІ: Claude проник у чужі системи, сприймаючи їх за симуляцію
Позиція Anthropic та OpenAI
В Anthropic пояснили, що для нових незалежних оцінювачів компанія залишає за собою право коментувати й затверджувати звіти під час перевірки моделей.
Водночас за словами представників компанії, зовнішні аудитори самостійно обирають методи оцінювання та формулюють остаточні висновки.
В OpenAI повідомили, що не вимагають повного редагування текстів, проте зазвичай вилучають конфіденційну інформацію.
Показовим став інцидент на платформі Hugging Face, де автономні ШІ-агенти спричинили збій інфраструктури.
Готуючи підсумковий звіт, OpenAI змінила його структуру, тон і акценти та вилучила непублічні дані, однак дослідники запевнили, що основні висновки залишилися незмінними.
Не пропустіть: Суперінтелект замість ШІ: Трамп видав указ про повний ребрендинг технології
Відсутність чітких стандартів та законів
Занепокоєння експертів посилюється через відсутність законодавчо закріплених правил незалежного оцінювання.
Наприкінці минулого місяця президент Дональд Трамп та керівники ШІ-компаній підписали Угоду Білого дому про суперінтелект, яка передбачає проведення незалежних перевірок.
Проте документ не містить чітких інструкцій щодо того, як саме мають проводитися ці дослідження.
Більше 200 науковців та дослідників уже підписали відкритий лист із вимогою забезпечити повну незалежність перевірок, широкий доступ до моделей і захист аудиторів від можливих санкцій з боку технологічних гігантів.