Роботы смогут исправлять собственные воспоминания: ИИ научился выявлять ошибки
Роботы смогут самостоятельно исправлять ошибки в собственной памяти благодаря новой ИИ-системе, разработанной учеными MIT. Технология UQ-DAAAM помогает машинам выявлять неточные описания окружающих предметов, оценивать их подлинность и переписывать ошибочные данные.
Об этом сообщает РБК-Украина со ссылкой на MIT News.
Почему в памяти возникают ошибки?
Ученые объяснили: предыдущие версии систем распознавания сталкиваются с трудностями, когда объекты попадают в кадр частично, находятся на большом расстоянии или сняты при плохом освещении.
В таких условиях искусственный интеллект может генерировать некорректные описания.
Например, система может ошибочно идентифицировать серую трубу на крыше как белку. Без механизма самокоррекции эта ошибочная информация остается в трехмерной карте памяти работа и влияет на ее дальнейшие решения и ответы.
Не пропустите: ИИ способен изменять воспоминания людей: ученые MIT предупредили об опасности
Как работает система оценки неопределенности?
Новый алгоритм измеряет уровень уверенности роботизированной системы в сгенерированных описаниях по двум критериям:
- уверенность визуально-языковой модели в выборе слов при создании первоначального описания;
- согласованность этого описания с подписями, сгенерированными на основе снимков того же объекта под другими углами.
Полученные данные объединяются в единый показатель неопределенности. Если этот балл превышает установленный порог, то система обозначает информацию как сомнительную и запускает процесс уточнения.
Вместо обработки абсолютно всех кадров UQ-DAAAM использует математический метод выбора только дополнительных ракурсов, которые могут эффективно устранить неопределенность.
Это позволяет существенно снизить нагрузку на вычислительные ресурсы робота во время движения.
После выбора оптимальных изображений большая речевая модель (LLM) формирует обновленную подпись, предпочитая более свежие и наименее неоднозначные наблюдения, после чего уточненная запись сохраняется в памяти.
Читайте интересное: Выдержал вирусы и кибератаки: Китай создал первого в мире автономного гуманоида
Кейсы и планы
В ходе лабораторных испытаний процесс исправления позволил устранить неопределенность для 92 процентов объектов в рабочем окружении. Для этого системе потребовалось в среднем всего по две дополнительные подписи на каждый объект.
Использование UQ-DAAAM повысило точность распознавания объектов на 5 процентов по сравнению с существующими аналогами, а также улучшило качество ответов на вопрос о расположении предметов и времени последнего контакта с ними.
В будущем разработчики планируют адаптировать систему для мобильных роботизированных манипуляторов, а также научить роботов самостоятельно возвращаться в зоны с высокой неопределенностью для сбора более качественных фотографий.