Роботи зможуть виправляти власні спогади: науковці навчили ШІ виявляти хибні дані
Роботи зможуть самостійно виправляти помилки у власній пам’яті завдяки новій ШІ-системі, яку розробили науковці MIT. Технологія UQ-DAAAM допомагає машинам виявляти неточні описи навколишніх предметів, оцінювати їхню достовірність і переписувати помилкові дані.
Про це повідомляє РБК-Україна з посиланням на MIT News.
Чому у пам'яті виникають помилки?
Вчені пояснили: попередні версії систем розпізнавання стикаються з труднощами, коли об'єкти потрапляють у кадр частково, перебувають на великій відстані або зняті при поганому освітленні.
У таких умовах штучний інтелект може генерувати некоректні описи.
Наприклад, система може помилково ідентифікувати сірий димар на даху як білку. Без механізму самокорекції ця хибна інформація залишається в тривимірній карті пам'яті робота та впливає на його подальші рішення та відповіді.
Не пропустіть: ШІ здатний змінювати спогади людей: вчені MIT попередили про небезпеку
Як працює система оцінки невизначеності?
Новий алгоритм вимірює рівень упевненості роботизованої системи в згенерованих описах за двома критеріями:
- впевненість зорово-мовної моделі у виборі слів під час створення первинного опису;
- узгодженість цього опису з підписами, згенерованими на основі знімків того ж об'єкта під іншими кутами.
Отримані дані об'єднуються в єдиний показник невизначеності. Якщо цей бал перевищує встановлений поріг, система позначає інформацію як сумнівну та запускає процес уточнення.
Замість обробки абсолютно всіх кадрів UQ-DAAAM використовує математичний метод вибору лише тих додаткових ракурсів, які можуть ефективно усунути невизначеність.
Це дозволяє суттєво зменшити навантаження на обчислювальні ресурси робота під час руху.
Після вибору оптимальних зображень велика мовна модель (LLM) формує оновлений підпис, віддаючи перевагу свіжішим і найменш неоднозначним спостереженням, після чого уточнений запис зберігається у пам'яті.
Читайте цікаве: Витримав віруси та кібератаки: Китай створив першого у світі автономного гуманоїда
Кейси та плани
Під час лабораторних випробувань процес виправлення дозволив усунути невизначеність для 92 відсотків об'єктів у робочому оточенні. Для цього системі знадобилося в середньому лише по два додаткові підписи на кожен об'єкт.
Використання UQ-DAAAM підвищило точність розпізнавання об'єктів на 5 відсотків порівняно з існуючими аналогами, а також покращило якість відповідей на запитання про розташування предметів і час останнього контакту з ними.
У майбутньому розробники планують адаптувати систему для мобільних роботизованих маніпуляторів, а також навчити роботів самостійно повертатися в зони з високим рівнем невизначеності для збору якісніших фотографій.