Вот в чем вопрос. Именно его мы решали в последние месяцы, и теперь можем дать ответ, просто взглянув машинным глазом на фотографию. Основная фишка в том, что текстовые описания, теги и прочие метки здесь ни при чем. Новое решение от Рекогмишн способно на основе анализа содержания изображений определить, относится ли контент к категории «порно».
Надо сказать, что процесс обучения был не из легких (хотя, возможно, кто-то может даже позавидовать авторам разработки 
). Есть определенная специфика распознаваемых объектов по сравнению с лицами (какая же трудная тема для описания однако), соответственно система должна найти эти «специфические» объекты на картинке и одновременно не должна перепутать их с другими объектами. Если такие элементы найдены, фото классифицируется как «порно» и блокируется для отображения. Конечно, иногда фильтр смущается (а может устает ) и не может дать точный ответ. Ну здесь уж ничего не поделаешь, человек еще более субъективен в оценках и может забраковать вполне невинное фото.
Фильтр работает в автоматическом режиме, обрабатывает как отдельные картинки, так и сайты с визуальным контентом, может включаться и отключаться.
Теперь вам достаточно лишь определиться с выбором варианта ответа…
Между прочим, это только на первый взгляд кажется чем-то несерьезным. На самом деле, работая на порно-фильтром, мы разработали технологию «двойного» назначения. Во-первых, такой же подход применим для определения наличия на фото и в видео произвольных существенных объектов. Во-вторых, это еще один шаг вперед к пониманию содержания изображения. Не правда ли, то, что фильтр говорит: «это, возможно, порно,» – как раз и есть понимание контента. Интересно, что во время этих «секретных» разработок мы также обнаружили чрезвычайно интересные пути использования неточной информации или даже промежуточных ошибочных результатов для окончательного вывода.
И еще – к визуальному фильтру мы сейчас можем подключить также текстовый семантический анализатор и получить совершенно универсальный продукт. Он сможет работать и с обычным сайтами, и с чистым мультимедиа, и с блогами, и с социальными сетями, и, простите коллеги – даже с файлообменниками!
Кстати, ждем дискуссии по данному вопросу.