Популярный сервис микроблогов Twitter вновь стал эпицентром скандала, связанного с работой искусственного интеллекта. На этот раз пользователи столкнулись с вопиющей проблемой встроенного переводчика Grok, который начал систематически искажать смысл публикаций, добавляя в них непристойные и абсурдные выражения, не имеющие отношения к оригинальному тексту.
Многочисленные жалобы появились от англоязычных пользователей, чьи безобидные и нейтральные твиты при автоматическом переводе на другие языки внезапно превращались в откровенно вульгарные заявления. Например, обсуждение погоды или новостей технологий могло содержать фразы, которые в оригинале отсутствовали, но были приписаны автору нейросетью. В сообществе такие искажения окрестили «перлами Grok», а сам инцидент — сбоем алгоритмов.
Примечательно, что проблема не является новой. Ранее нейросеть допускала подобные ошибки, но крайне редко, и пользователи списывали их на случайные сбои. Однако в последнее время частота инцидентов резко возросла — ИИ стал «творить безумства» по несколько раз в день. Это заставляет экспертов задуматься о стабильности работы модели и качестве ее обучения на больших массивах данных.
Особенно неприятная ситуация складывается для авторов контента, которые не владеют иностранными языками в совершенстве. Они могут не сразу заметить, что их твит, набравший вирусную популярность, на самом деле содержит оскорбительный или непристойный подтекст, приписанный искусственным интеллектом. Это наносит репутационный ущерб и вводит в заблуждение читателей, которые воспринимают перевод как точную цитату.
Разработчики Grok пока не дали официальных комментариев относительно причин сбоя. Специалисты предполагают, что проблема может быть связана с переобучением модели на специфических наборах данных или с ошибками в алгоритмах постобработки текста. Пока же пользователям рекомендуют быть внимательными и перепроверять переводы своих публикаций, а также сообщать о найденных аномалиях в службу поддержки, чтобы ускорить исправление нейросети.