Grok захватил контент для взрослых: чем это чревато
Чат-бот Grok от компании xAI получил известность благодаря отсутствию жестких ограничений. Новое расследование показывает, что более половины всего трафика системы генерируют контент для взрослых и эротические ролевые игры.
Об этом сообщает РБК-Украина со ссылкой на The Information.
Несмотря на то, что роль контента для взрослых в формировании доходов была полностью изъята из официальных документов для подготовки компании к выходу на биржу (IPO), журналисты утверждают, что xAI заложила немалый бюджет для покрытия возможных юридических последствий такой стратегии.
Экономия на коде и внутренние скандалы в xAI
Популярность эротических функций привела к неожиданным аномалиям в потреблении вычислительных мощностей.
Пользователи выяснили, что генерировать текстовую эротику и обнаженные картинки значительно дешевле специализированных подмоделей Grok, которые разрабатывались для написания программного кода.
Внутренний технический анализ xAI подтвердил, что значительная часть запросов к кодинг-модели действительно касалась создания порнографических материалов из-за их более низкой коммерческой стоимости.
Такая специфика платформы спровоцировала серьезные внутренние разногласия среди инженеров:
Часть персонала была недовольна назначением на проект Ani - разработку интерактивного NSFW-аватара в аниме-стиле .
Многие разработчики заявили, что чувствовали себя смущенными и возмущенными после серии публичных скандалов, когда пользователи использовали Grok для создания сексуализированных дипфейков реальных людей, включая несовершеннолетних.
Для решения этой проблемы инженерам пришлось в экстренном режиме разрабатывать алгоритмы, позволяющие боту поддерживать романтические и эротические разговоры, но железно блокировали любые попытки генерации запрещенных или противоправных материалов.
В настоящее время генерирование откровенных фотографий реальных людей непосредственно в соцсети X ограничено, однако платные подписчики xAI все еще имеют технический доступ к подобному функционалу .
Риски против государственных контрактов
Осознавая опасность судебных тяжб из-за неконсенсуальных дипфейков и порнографии, руководство компании официально предупредило потенциальных инвесторов, что "дерзкие" функции бота являются серьезным фактором риска.
Для урегулирования будущих судебных споров и компенсаций xAI выделила отдельный резервный фонд в размере 530 миллионов долларов.
Отдельным вызовом для бизнес модели Илона Маска является совместимость такого имиджа с государственными заказами. xAI ведет агрессивную политику на рынке госзакупок и уже подписал ряд крупных контрактов с разными федеральными ведомствами и военными структурами США.
Обычно госорганы обладают нулевой терпимостью к любым проявлениям NSFW-индустрии. Однако сегодня нет подтверждений, что многочисленные скандалы с дипфейками или текущие расследования как-то негативно повлияли на сотрудничество компании одиозного миллиардера с американским правительством.