Одновременно с многообразием возможностей Интернет стал источником серьезных правонарушений, среди которых наиболее опасными являются распространение детской порнографии и сексуальная эксплуатация несовершеннолетних. Для защиты пользователей от неправомерных действий владельцы онлайн сервисов используют различные подходы, преимущественно ручную фильтрацию или автоматическую обработку по тексту. Тем не менее, внедрение таких механизмов не приносит ожидаемого результата.
Ручная модерация не позволяет отследить все возникающие угрозы и качественно классифицировать большие объемы данных. Используемые слова и теги для определения «порнографичности» в автоматическом режиме часто не соответствуют контенту или попросту отсутствуют.
Подобные меры безопасности предусмотрены в поисковых системах, предлагающих пользователям «семейный» или «безопасный» поиск. Выбор этого режима подразумевает включение фильтра, основанного на анализе тегов и текстов на веб-страницах, тем самым поисковая система блокирует доступ к ресурсам с сомнительным текстовым, но не визуальным содержанием. Текстовые фильтры не детектируют порно в изображениях, широко распространенных в социальных сервисах, хостингах и файлообменных сетях, и потому не обеспечивают высокий уровень надежности выбранного режима.
Понимая важность решения задачи защиты пользователей от опасного контента, особенно детской аудитории, поисковые системы и Интернет-порталы стараются найти более эффективные способы детектирования порнографии.
Так, компания WeSEE оказывает компании «Яндекс» услуги обработки данных с целью анализа изображений на предмет наличия в них нежелательного содержания. Решение http://pifilter.com/ основано исключительно на анализе визуального контента без учета текстовых описаний. Система обеспечивает уровень надежности детектирования порно в изображениях не менее 91.5% и используется владельцами Интернет-ресурсов в различных странах мира. PiFilter является распространенным инструментом модерации видео чатов, обеспечивающим своевременное детектирование пользователей с неподобающим поведением.
Таким образом, представители рынка поисковых технологий внедряют новые инструменты фильтрации контента, повышая тем самым качество собственных сервисов и обеспечивая право пользователей на безопасное общение в Сети.
О компании
WeSEE – группа компаний со штаб-квартирой в Великобритании и офисами разработки в России и Израиле. Компания WeSEE Rus реализует ряд проектов, основанных на технологиях распознавания образов, мультимедийной и текстовой индексации. Все решения компании отличаются своей инновационностью, технологичностью и эффективностью.
Контакты: Для получения более подробной информации обращайтесь в российское подразделение компании WeSEE Rus: тел.: +7 846 205 71 79, электронная почта sales.ru@wesee.com