Не знает о компьютерах, но пишет код: как ИИ Talkie "застрял" в 1930 году
Talkie помогает расшифровывать законы столетней давности (коллаж: РБК-Украина)
Исследователи создали ИИ, который "застрял" в 1930 году - модель Talkie ничего не знает о произошедших после 31 декабря того года событиях. Ее научили только на текстах общественного достояния, превратив в своеобразную цифровую капсулу времени для экспериментов с современным миром.
Об этом пишет РБК-Украина со ссылкой на Futura.
Цифровая капсула времени
Выбор 1930 г. для ограничения знаний языковой модели не был случайным. В США после 95 лет произведения переходят в общественное достояние, поэтому все использованные тексты являются юридически свободными.
Кроме того, ученым было интересно создать цифрового собеседника, чье мировоззрение остается абсолютно чистым от любых событий XX и XXI веков.
Основные характеристики модели Talkie
Объем параметров: 13 миллиардов
База данных: обучающий датасет эквивалентнен примерно 234 миллиардам страниц текстов на английском языке.
Источники: для оцифровки печатных изданий прошлого века использовались специальные системы оптического распознавания символов (OCR).
Главным вызовом для авторов была угроза "загрязнения" базы данных - если бы в систему попала хоть какая-нибудь информация после 1930 года, чистота эксперимента была бы утрачена.
"Шок" от современного мира и "предсказание" истории
Исследователи проверили реагирование Talkie на 5 000 исторических событий после 1930 года.
Результаты показали, что модель не смогла спрогнозировать никакой крупной катастрофы или глобальных конфликтов, в частности, Вторую мировую войну или приход нацистов к власти.
Когда бота рассказывали о современных технологиях, его реакция была полна искреннего "удивления".
Как вел себя бот?
Технологический шок: Talkie никогда не "представлял" существование интернета, смартфонов, телевидения или космической гонки.
Творчество: во время эксперимента бота предложили написать код на языке Python (созданном в 1991 году). Не зная даже слова "компьютер", алгоритм смог сгенерировать похожий на правду код, использовав сложные языковые аналогии.
Теория относительности: в отдельном тесте модель научили до 1911 года и попытались проверить, сможет ли она самостоятельно вывести общую теорию относительности, как это сделал Эйнштейн в 1915 году.
Сейчас бот Talkie доступен для общения в сети, где с ним можно подискутировать или наблюдать за его диалогами с Claude.
Визуальные "галлюцинации" и польза для современности
Как и современные большие языковые модели, Talkie склонен к так называемым "галлюцинациям" - он может придумывать факты или придумывать новые истории о прошлом, которых никогда не существовало.
Несмотря на это, "винтажный" ИИ оказался полезным инструментом.
Что ему по силам?
Юридическая аналитика: бот помогает понять, как именно воспринимались законы в момент их написания, раскрывая скрытые контексты и оттенки старинного юридического языка.
Понимание самовосприятия ИИ: общение с алгоритмом, который даже не осознает, что он искусственный интеллект, дает ученым новые ключи к пониманию того, как языковые модели формируют представление о себе и строят поведение на основе ожиданий пользователя.
