Компания Илона Маска xAI опубликовала сотни тысяч переписок с ее чат-ботом Grok — часто без ведома самих пользователей, пишет Forbes.
Любой, кто нажимал кнопку «поделиться» в чате с ботом, создавал уникальную ссылку, которую можно было переслать. Но пользователи не знали, что эта ссылка автоматически становилась доступной для поисковых систем вроде Google, Bing или DuckDuckGo. В итоге десятки тысяч приватных разговоров оказались индексированы и легко доступны в интернете.
По данным Forbes, сейчас Google показывает более 370 тысяч таких переписок. Среди них есть и обычные задачи вроде помощи с твитами или изображениями, и более опасные — обсуждения террористических атак, способы самоубийства, инструкции по взлому криптокошельков, изготовлению наркотиков, самодельных бомб, а также план убийства самого Маска. Некоторые переписки включали личные данные пользователей, пароли и документы.
Британский журналист Эндрю Клиффорд, например, использовал Grok для составления обзоров новостей и твитов для своего сайта Sentinel Current, но был шокирован, узнав, что его переписки теперь доступны через Google.
Некоторые из опасных запросов к Grok, например о наркотиках и взрывчатке, вероятно, создавали специалисты по безопасности для тестирования бота, но даже профессионалы иногда оказывались введены в заблуждение настройками публикации.
Ранее похожая ситуация произошла с ChatGPT от OpenAI, но после возмущения пользователей компания изменила политику и отключила автоматическое индексирование. Маск же похвалил свой бот Grok за то, что у него якобы не было такой функции — хотя на деле она появилась, и пользователи уже с начала года жаловались на индексацию своих диалогов с чат-ботом.
xAI не ответила на запрос Forbes.