Сергей Собянин вручил почетные грамоты лучшим столичным педагогамСлушатели возмутились из-за оскорбительных треков, которые появились на российских стримингах. К примеру, в одном из них есть строки: "Сломаю тебе ноги, чтобы ты от меня никуда не ушла". Почему такой контент попадает на интернет-площадки и как с этим бороться, разбиралась Москва 24.
"Как теперь избавиться от ушей?"
Фото: 123RF.com/carballo
Пользователи Сети пожаловались на завирусившиеся треки с непристойным содержанием на "Яндекс Музыке". Большая часть композиций создана с помощью искусственного интеллекта и содержит нецензурную лексику, оскорбления, откровенные сексуальные высказывания и угрозы.
В частности, в одной из набравших популярность песен есть строки: "Сломаю тебе ноги, чтобы ты от меня никуда не ушла, сломаю тебе руки, чтобы ты меня всегда любила". Кроме того, в тексте используются обращения "ты моя мразота" и "ты моя скотина".
Автором трека является DJ NARODNII. В разговоре с телеграм-каналом "Осторожно, новости" он отметил, что изначально хотел создавать народные песни, поэтому и выбрал такой никнейм. Однако впоследствии стало ясно, что аудитории больше по душе треки-мемы. При этом артист по-прежнему ожидает выплаты от стриминговых сервисов.
"Есть негативный момент в том, что люди могут не отличать ИИ от реальной музыки и почувствовать себя обманутыми. Но вот прямо сейчас, при всем этом, самое благоприятное время для того, чтобы новички с нуля стреляли чисто на органике, раньше это было сложнее", – отметил он.
Также диджей охарактеризовал свое творчество как "прикол и иронию над некачественными ИИ-треками, над их слушателями и всей ситуацией с ИИ в целом".
"Все, что там есть, – это два лирических героя, образ которых гиперболизирован на максимум, для того чтобы подсветить в жанре сатиры поведение подобных людей", – отметил музыкант.
Однако подобное творчество вызвало гнев у десятков пользователей в Сети.
"Куда пожаловаться? Это уже ни в какие рамки"; "поставлю на звонок, чтобы никто не звонил"; "вы вообще текст смотрели? Там с первых строчек пропаганда насилия"; "спасибо! Как теперь избавиться от ушей?" – написали пользователи.
"Глазки-носики" уже не те
Фото: 123RF.com/uximetcpavel
Несмотря на то что на подобном контенте может стоять возрастное ограничение, алгоритмы могут выдавать не подходящие под запрос треки.
Например, медиаюрист Елизавета Худякова опубликовала в социальных сетях диалог с умной колонкой: на просьбу включить детскую песню про "глазки-носики" ИИ выдал трек с нецензурной лексикой. В беседе с RT эксперт констатировала, что вопросы регулирования оскорбительного контента в Сети остаются актуальными, а с музыкой ситуация зачастую сложнее, чем с другими видами контента.
"К большому сожалению, говорить приходится скорее об этике, чем об ответственности. Правовое регулирование крайне неоднородно. Если в СМИ мат прямо запрещен и предусмотрена административная ответственность, то в интернете все гораздо проще", – отметила Худякова.
Она напомнила, что маркировка контента с нецензурной бранью обязательна по закону и он запрещен к распространению среди детей. Маркировать песню должен правообладатель или дистрибьютор, который несет ответственность за распространение взрослого контента без маркировки. Однако штрафы за такие нарушения невелики – до 3 тысяч рублей для физлиц и до 50 тысяч рублей для компаний. Сама площадка, допустившая публикацию немаркированного контента, ответственности не понесет.
При этом особую сложность представляет ИИ-контент, поскольку в таких случаях "ответственность максимально размыта", добавила юрист.
"Кто виноват? Тот, кто написал промпт? Разработчик нейросети? Или тот, кто такой контент разместил? В законодательстве нет четкого ответа на этот вопрос", – отметила эксперт.
По ее мнению, в первую очередь необходимо структурировать ответственность именно в сфере ИИ-контента, поскольку она развивается настолько стремительно, что законодательное регулирование не успевает за ней.
В свою очередь, певец и композитор Игорь Корнелюк в беседе с журналистами критически оценил современные музыкальные творения, в том числе написанные нейросетью.
"К этому можно относиться только отрицательно. Даже безотносительно к тому, что там нецензурная лексика, вся эта самопальная "музыка" на коленках сделана. Настолько извратили и загадили сам жанр, саму музыку, что это напоминает канализационную трубу", – заявил он.
Отдельно композитор обратил внимание на проблему использования ИИ, позволившего непрофессионалам заниматься музыкой.
Народный артист РСФСР Лев Лещенко в разговоре с Москвой 24 также отметил, что в связи с развитием нейросетей изменить что-либо невозможно. По его мнению, это явление сохранится еще надолго, а ИИ необходимо использовать "в мирных целях".
"ИИ не идеален"
Фото: 123RF.com/yourapechkin
В пресс-службе "Яндекс Музыки" сообщили Москве 24, что контент размещается на сервисе правообладателями: лейблами или дистрибьюторами, которые представляют права исполнителей.
"Сейчас данный трек доступен на всех музыкальных стримингах в том виде, в котором контент был поставлен правообладателем: музыкальные стриминги не могут вносить изменения в контент самостоятельно", – отметили в компании.
При этом в стриминге действуют правила размещения контента, которые нацелены на создание комфортной и безопасной среды для слушателей. В первую очередь речь идет о насилии, оскорблениях и шок-контенте, который может задеть пользователя. В соответствии с правилами размещения контента трек был ограничен в рекомендациях из-за содержащегося в нем шок-контента, подчеркнули представители сервиса.
"Также у трека есть возрастная маркировка (!), которая позволяет обезопасить детей от неприемлемого для их возраста контента. Это также помогает ориентироваться и взрослым пользователям, которые могут отключить в настройках сервиса прослушивание контента, отмеченного специальным знаком (!)", – добавили в пресс-службе сервиса.
При этом ничего незаконного в таком контенте нет, заявил Москве 24 генеральный директор Института исследований интернета Карен Казарян.
"По закону такие треки необходимо маркировать, плюс соответствующие композиции не должны показываться несовершеннолетним, если они заходят с соответствующего аккаунта", – отметил он.
По словам специалиста, нарушением будет считаться, если это транслируется без соответствующих пометок, а также когда доступ к такому контенту могут получить те, кому нет 18 лет. Также в законодательстве прописан конкретный перечень нецензурных выражений, которые должны "запикиваться".
Эксперт по кибербезопасности Координационного совета некоммерческих организаций Алексей Курочкин пояснил, что раньше фильтрация строилась на основе жалоб пользователей, и после получения сообщения начиналась модерация. Однако в сутки заливается такое количество контента, что за всем уследить невозможно.
"Сейчас модерация, скорее всего, происходит в том числе с помощью искусственного интеллекта, но и он не идеален. То есть в треке что-то зашипело, басами закрыли, и нейросеть может такое пропустить. Такое удаляется опять же после жалоб пользователей, но на всех глаз и рук не хватит", – сказал он Москве 24.
Чаще всего такой контент попадает в закрытые группы, каналы, куда пускают не всех. В том числе, это касается западных соцсетей, музыкальных площадок и видеохостингов, потому что они не нацелены на российскую фильтрацию российского контента, заключил Курочкин.
