Фальшиві відкриття вчених: як ШІ-алгоритми таємно вигадують неіснуючі дані

Алгоритми дедалі частіше використовують для моделювання клітин, проєктування білків і добудовування прогалин у складних аналізах.

Проте системи ШІ схильні до "галюцинацій" - вони створюють переконливі, але абсолютно вигадані структури чи висновки.

Про цю загрозу попередив обчислювальний біолог Тома Бюргер із Університету Гренобль-Альп.

Чому помилки ШІ стають небезпечними?

Науковець пояснює: коли штучний інтелект лише шукає потрібні молекули серед тисяч варіантів, ризик невеликий. Якщо алгоритм помилиться, науковці просто змарнують час на перевірку в реальній лабораторії, де неефективну речовину одразу відсіють.

Проблема стає критичною, коли штучно згенеровані дані починають замінювати справжні лабораторні вимірювання.

Як саме?

Приховане перекручування: під час обробки великих масивів інформації ШІ може непомітно змінити або підсилити слабкий сигнал. Науковцям вкрай складно помітити таку підробку у фінальних звітах.

Ілюзія відкриття: алгоритм додає до результатів вигадані деталі, а вчені починають вірити, що знайшли новий спосіб лікування.

Втрата реальних ліків: модель може внести стільки зайвого "шуму" у результати, що дослідники просто не помітять справді дієву речовину.

Збої AlphaFold 3

Із цими ризиками науковці вже зіштовхуються на практиці. Наприклад, розробники популярної системи AlphaFold 3 у журналі Nature визнали, що їхній алгоритм інколи вигадує неіснуючі форми білків.

Водночас науковці зазначають, що помилка ШІ теоретично може надіслати підказку і випадково наштовхнути на реальне відкриття.

З усім тим, будь-яка ідея чи формула від штучного інтелекту залишається лише здогадкою, поки її не перевірять на реальному досліді у лабораторії.