X

Laadi alla uus Eesti Raadio äpp, kust leiad kõik ERRi raadiojaamad, suure muusikavaliku ja podcastid.

Эстонский музыкант Kaw вынужден сменить сценическое имя из-за искусственного интеллекта

Кевин Кеэваллик.
Кевин Кеэваллик. Автор: ERR

Эстонский поп-артист Kaw вынужден cменить свое сценическое имя, потому что искусственный интеллект (ИИ), регулирующий социальные сети, считает, что такое имя подстрекает к убийству женщин. По оценкам экспертов, ИИ может начать принимать все более противоречивые и даже опасные решения.

Рэпер Кевин Кеэваллик, выступавший под сценическим псевдонимом Kaw, начал музицировать в подвале своего друга шесть лет назад и в основном публиковал свое творчество на платформе Soundcloud. Теперь 22-летний мастер рифмы и ритма стал договорным артистом Sony Music, а в прошлом году дебютировал на конкурсе Eesti Laul.

"Особенность Kaw в том, что он хорош в разных жанрах, в электронной музыке, поп-роке, африканских ритмах. Сейчас в Эстонии нет артиста с таким амплуа, и именно это делает Kaw уникальным артистом", – отметил в передаче "Очевидец" на канале ETV продюсер Kaw Карл Тамм.

Каким бы особенным ни был артист или какой бы хорошей ни была его песня, сегодня невозможно добиться успеха без присутствия в социальных сетях и на стриминговых платформах. Именно поэтому у Kaw есть аккаунты в Instagram, Tiktok, Facebook и Youtube.

"Tiktok – самое важное место для продвижения своей музыки для любого музыканта во всем мире. А если приложить усилия, задать какую-нибудь тенденцию, привлечь подписчиков, то это станет отличным трамплином к очень приличной карьере", – добавил Тамм.

Однако чуть меньше года назад и артист, и его продюсер заметили, что их контент не распространяется в сети. После нескольких месяцев переписки с роботами, команда Kaw получила от компании Meta, управляющей Facebook и Instagram, написанный человеком ответ, который пролил свет в вопросе о том, почему контент эстонского артиста был заблокирован на этих платформах. Выяснилось, что KAW – это английская аббревиатура, означающая "убей всех женщин" (kill all women).

Артист объяснил, что никогда раньше не слышал о подобном движении. "Ужасное чувство, когда на тебе такое отвратительное пятно, – сказал он. – Мое сценическое имя появилось очень давно, задолго до того, как появились подобные сокращения или движения".

Эксперты в области технологий Карл Сандер Эрсс и Линнар Вийк подтвердили, что, хотя суть алгоритмов изначально определяется людьми, лишь микроскопическая часть решений, принимаемых на основе этих алгоритмов, контролируется людьми, а это значит, что платформами по сути управляют искусственные умы.

"Существуют различные поддельные или полуподдельные списки того, что можно использовать, а что нет. Люди недоумевают, почему в Facebook их блокируют на три дня, почему закрываются аккаунты на других платформах. Знать об этом нам не дано, потому что компания не обязана объяснять причины", – констатировал Вийк.

Он пояснил, что когда кто-то сообщает платформе о том, что его раздражает контент, будь то пост, реклама или пользователь, то это запускает процесс, в котором первое решение принимает программа.

В данном случае цель была в общем-то благородной – пресечь экстремистский контент и язык вражды, но машина не учла, что речь идет об эстонском поп-артисте, который не разжигает ненависть и не подстрекает к насилию в отношении женщин. По словам экспертов, платформы социальных сетей не различают юмор и часто не понимают контекста.

Беспокойство молодого рэпера может показаться пустяком, но эксперты считают, что по мере того, как искусственным разумам доверяют все больше ответственности за управление нашей жизнью, потенциальные последствия их ошибок становятся все более серьезными.

Например, в Нидерландах, где распределением социальных пособий занимался искусственный интеллект, тысячи семей были ошибочно обвинены в мошенничестве с пособиями. Исследование, проведенное в США, показало, что различные программы распознавания лиц, используемые как пограничниками, так и полицией, не справляются с распознаванием людей с темным цветом кожи и не всегда правильно распознают женщин. В 2014 году компания Amazon создала экспериментальный инструмент для приема на работу, основанный на искусственном интеллекте, однако позже выяснилось, что он отдает предпочтение кандидатам-мужчинам.

Именно в сфере найма на работу в настоящее время отмечается большинство примеров предполагаемой дискриминации в связи с искусственным интеллектом. В Эстонии крупные компании, такие как Tallink и Eesti Energia, нередко используют программное обеспечение для подбора персонала на основе искусственного интеллекта в рамках первичного отбора кандидатов.

В середине февраля в ЕС вступит в силу Директива о цифровых услугах, которая должна сделать правила и причины любых запретов и блокировок более прозрачными и понятными для пользователей. Кроме того, в конце 2023 года ЕС достиг соглашения о регулировании искусственного интеллекта. Предполагается, что соответствующий закон будет принят примерно через год.

Эстонский рэпер решил сменить сценическое имя, но это означает, что его прошлые работы и контент в сети не будут с ним ассоциироваться.

"У нас нет другого выхода, если мы хотим продолжать заниматься этим делом, – сказал он, сообщив, что его новым сценическим именем будет Kewin. – Поначалу это, наверное, будет казаться чужим, но придется привыкнуть".

Редактор: Евгения Зыбина

Hea lugeja, näeme et kasutate vanemat brauseri versiooni või vähelevinud brauserit.

Parema ja terviklikuma kasutajakogemuse tagamiseks soovitame alla laadida uusim versioon mõnest meie toetatud brauserist: