ИИ может ускорить создание биологического оружия: техногиганты предупреждают о рисках

Нейросети научились модифицировать последовательности опасных патогенов так, что автоматические системы безопасности биотех-лабораторий перестают их распознавать.

Почему ИИ упрощает создание вирусов?

Сегодня процесс создания ДНК автоматизирован: десятки компаний по всему миру используют коммерческие синтезаторы, чтобы буквально "печатать" кастомные генетические последовательности для медицинских исследований. Однако далеко не все поставщики тщательно проверяют клиентов и заказы.

Еще в 2017 году исследователи смогли по почте заказать ДНК и воспроизвести вымерший вирус конской оспы, который является близким родственником смертоносной для человека натуральной оспы. С тех пор технология синтеза значительно удешевилась.

Современные большие языковые модели и инструменты ИИ для дизайна белков стали мощными катализаторами этой угрозы.

Как это могут использовать злоумышленники?

Поиск лазеек: ИИ способен мгновенно подсказать пользователю, к каким именно поставщикам ДНК стоит обратиться, чтобы избежать проверок.

Маскировка заказов: нейросети могут перефразировать или изменить структуру генетического заказа так, чтобы защитный софт лаборатории не заметил токсичности или вирусной природы кода.

Генерация новых угроз: исследования показывают, что ИИ-модели для проектирования белков способны создавать совершенно новые опасные последовательности, которые имеют структуру известных токсинов, однако полностью игнорируются стандартным фильтрующим ПО.

Позиция техногигантов

Инициаторами открытого письма выступили Институт прогресса (Institute for Progress) и Фонд американских инноваций (Foundation for American Innovation). Среди подписантов - Демис Хассабис (Google DeepMind), Сэм Альтман (OpenAI), Дарио Амодеи (Anthropic) и Мустафа Сулейман (Microsoft AI), а также ряд ведущих ученых.

Они призывают Конгресс обязать всех поставщиков синтетической ДНК и РНК проводить обязательный скрининг клиентов и заказов на наличие опасных патогенов.

Сейчас в США действуют только рекомендации для учреждений с федеральным финансированием, а общий рынок опирается на добровольный аудит в рамках Международного консорциума по синтезу генов.

В Сенате уже рассматривается двухпартийный законопроект, который должен ввести такую обязательную проверку на законодательном уровне.

Почему нужна многоуровневая защита?

Эксперты по биобезопасности отмечают, что контроль только на этапе печати ДНК не является панацеей, поскольку фильтры автоматических систем защиты несовершенны.

ИИ-лаборатории должны внедрять собственные внутренние ограничения: модели должны быть спроектированы так, чтобы блокировать любые запросы пользователей, связанные с разработкой токсинов или патогенов, способных спровоцировать глобальную пандемию.