Фото носит иллюстрационный характер

Подведомственный Роскомнадзору Главный радиочастотный центр (ГРЧЦ) планирует запустить систему поиска противоправного контента в изображениях и видео в интернете «Окулус». Она будет работать на основе искусственного интеллекта (ИИ), что, по мнению ведомства, повысит эффективность выявления экстремистских материалов и порнографии. Но внедрение такой системы грозит замедлением работы анализируемых ресурсов, опасаются эксперты.

На портале госзакупок ГРЧЦ 15 сентября опубликовал тендер стоимостью 15 млн руб. на разработку техзадания для системы поиска нарушений в интернете в изображениях и видеофайлах, сообщает газета «Коммерсантъ». Система будет называться «Окулус», запустить ее планируется в 2022 году, она будет выявлять распространение экстремистских материалов и порнографии, пропаганду наркотиков, призывы к массовым беспорядкам и самоубийству, описано в техзадании. До сих пор поиск нарушений в изображениях и видео происходил вручную, ИИ позволит «ускорить процесс», говорится в документации. Завершить работы нужно до 17 декабря.

С 2019 года товарный знак Oculus закреплен за Facebook, которая развивает VR-систему под этим брендом. По поводу его использования с интернет-компанией судилась ветеринарная клиника ООО «Эко», причем во время спора Facebook подала заявку на товарный знак «Окулус» в кириллическом варианте (ее одобрили в марте 2021 года, указано в базе Роспатента). У Facebook теоретически есть возможность запретить компьютерные программы и информационные сервисы под этим названием, если ГРЧЦ будет использовать его при оказании коммерческих услуг, указывает зампред комитета по интеллектуальной собственности РСПП Анатолий Семенов. Впрочем, по его словам, центр не относится к лицам, осуществляющим коммерческую деятельность.

Между тем материалы на самом Facebook тоже войдут в зону мониторинга системы. Текстовый контент уступает место фото- и видеоматериалам, которые сильнее влияют на сознание человека, «по информации TikTok, количество ежемесячных пользователей сервиса выросло с 2018 года на 800%, в Facebook посты с изображениями привлекают пользователей в 2,3 раза чаще, чем сообщения без них, именно в таком контенте появляется все больше запрещенной законами РФ информации», объясняют в ГРЧЦ. В интервью газете «Коммерсантъ» глава Роскомнадзора Андрей Липов прогнозировал, что к концу года объем информации, которую смогут проанализировать сотрудники на предмет нарушений, увеличится благодаря ИИ в 14 раз.

Сейчас ответственность за размещение в сети противоправных материалов варьируется от административной до уголовной. За возбуждение ненависти или вражды, унижение достоинства человека по признакам пола, расы и т. п. предусмотрен как штраф до 500 тыс. руб., так и лишение свободы от двух до пяти лет, рассказал руководитель направления фирмы «Рустам Курмаев и партнеры» Ярослав Шицле. За изготовление, приобретение, хранение детской порнографии предусмотрено лишение свободы от трех до десяти лет, уточняет он.

В июле Роскомнадзор уже заказал за 41,7 млн руб. доработку системы мониторинга телерадиовещания, чтобы превращать аудиозаписи в текст. Это позволит ему эффективнее искать нарушения в ТВ-контенте и радиоэфире. В конце августа было объявлено о закупке «автоматизированной системы мониторинга нарушений прав субъектов персональных данных в сети» за 41,1 млн руб., а в середине сентября — системы мониторинга сайтов за 58,5 млн руб.

Разработка системы «Окулус» может стоить от десятков до сотен миллионов рублей, ее внедрение обойдется в миллиарды, а обслуживание — в десятки миллионов в год, оценивает совладелец компании «Ланит-Терком» Владимир Уфнаровский.

Реализовать подобный проект в масштабах рунета будет проблематично, считает исполнительный директор Artezio (входит в группу «Ланит») Павел Адылин. «Нужно не только разработать систему мониторинга, но и обеспечить прохождение через нее всего интернет-трафика»,— говорит он. Но если все видеоматериалы и изображения будут подвергаться предварительной фильтрации, подчеркивает эксперт, скорость доступа в интернет существенно замедлится, поскольку пользователя придется ждать, пока ИИ проанализирует контент.

Поделиться ссылкой: