Причиной стало возникшее после недавнего обновления увлечение нейросетевого собеседника антисемитизмом, восхвалением Адольфа Гитлера и очень нецензурной бранью.

Вульгарная речь, расизм и распространение крайних, а иногда и экстремистских точек зрения – во всем этом эксперты и наблюдатели неоднократно упрекали пользователей социальной сети X, ранее известной как Twitter. Теперь же в этом поведении замечен Grok, генеративный нейросетевой чат-бот, интегрированный в саму платформу. Претензии к его ответам возникали и ранее, но на этой неделе пользователи заметили изменение в его поведении.

С одной стороны в русско- и украиноязычном сегменте Интернета стали появляться скриншоты разговоров, в которых Grok явно занимает проукраинскую позицию в идущей войне и, опираясь на международно признанные источники, категорически называет Россию агрессором. Более того, в своей традиционной манере в ответ на провокационные вопросы он открыто оскорбляет или даже унижает собеседников за прокремлевскую позицию. А в англоязычном сегменте Grok после обновления системы начал распространять антисемитскую риторику, называть себя МекаГитлером и обрушиваться на знаменитостей и политиков с прямыми и зачастую предельно сексуализированными оскорблениями.

Дошло до того, что накануне Польское правительство обратилось к Еврокомиссии с призывом немедленно начать расследование в отношении компании Илона Маска. Как сообщает Politico, польские власти обращают внимание на то, что "беспорядочные, полные ненормативной лексики высказывания" Grok в социальной сети X могут быть "серьезным нарушением" правил ЕС касательно по модерации контента.

В четверг в ходе брифинга для прессы представитель Еврокомиссии Томас Ренье подтвердил, что происходящее действительно может оказаться нарушением DSA или Закона о цифровых услугах, потому что X классифицируется как очень крупная онлайн-платформа и соответственно отвечает за минимизацию рисков связанных со своими сервисами, в том числе и Grok: "Мы же не стоим здесь, сложа руки. Нет, мы активно работаем. Нас часто критикуют из-за жесткого законодательства, но, к счастью, у нас есть это законодательство и я думаю, теперь очевидно, почему. Мы обеспечим соблюдение Закона о цифровых услугах и Закона об искусственном интеллекте. Мы уже приняли меры. В отношении X ведется расследование, которое также касается потенциально незаконного контента. Поэтому да, сегодня я не могу дать вам точную информацию по этому конкретному делу".

В то же время он подчеркнул, что, хотя Еврокомиссия не может незамедлительно среагировать на подобные инциденты, это могут сделать местные власти, которые и должны принимать меры.

Первой в мире по этому пути пошла Турция, прокуратура которой накануне заблокировала Grok – после того, как чат-бот создал контент, который якобы оскорблял президента страны Реджепа Тайипа Эрдогана и его матери.

Ранее издание The Verge сообщило, что среди недавних изменений, внесенных в код Grok-а, часть из которых опубликовали в репозитории на GitHub, чат-бот получил инструкции исходить из того, что "субъективные точки зрения, полученные из СМИ, предвзяты", и что он, отвечая пользователю "не должен уклоняться от политически некорректных заявлений, если они хорошо обоснованы".

The Guardian напоминает, что месяцем ранее Grok неоднократно поднимал тему так называемого "геноцида белых" в Южной Африке в ответ на не связанные с этим вопросы. Речь идет о теории заговора, распространенной в ультраправых кругах.