Разработан алгоритм для защиты Chatroulette от порноагрессоров

Специалисты в области программного обеспечения из Университета Колорадо разработали алгоритм, который блокирует порнографию в видеочатах. Прежде всего новое ПО должно обеспечить безопасность на сайтах вроде Chatroulette, где посетители случайным образом находят себе собеседников в видеочате. Подобные сервисы страдают от обилия людей, которые любят совершать непристойные действия перед людьми вовсе того не желающими. Проблема усугубляется тем, что жертвами часто становятся несовершеннолетние. В частности, по наблюдениям авторов защитного ПО, на Chatroulette около 20-30% пользователей не достигли совершеннолетия, при этом количество визитов на сайт в июле 2010 года составило 6,3 млн. Естественно, такое количество потенциальных зрителей привлекает эксгибиционистов, что может стать проблемой, которая лишит людей желания общаться в видеочатах.

Решить эту проблему весьма сложно. Для борьбы с "порноагрессорами" в основном используется механизм краудсорсинга, когда пользователи сообщают о правонарушителях, а сотрудники сервиса оценивают содержание видео и в случае необходимости отключают нарушителя. Однако этот метод требует много времени и денег, к тому же он может стать почвой для злоупотреблений. Кроме того, при одновременном наличии в онлайне более 20 тыс. пользователей быстро прекратить непристойности не получается.

Есть и более перспективный подход, который заключается в использовании для обнаружения порнографического содержания существующих программных алгоритмов. Например, программа могла бы выявлять на видео обнаженную кожу человека. К сожалению, этот тип программного обеспечения, не очень хорошо работает с видеочатами, поскольку трансляция часто ведется из плохо освещенных комнат и ПО может спутать кожу, например, со светло-желтыми стенами.

Американские компьютерщики разработали свой собственный алгоритм, названный SafevChat, который успешно протестирован на видео из Chatroulette. Новый подход использует анализ изображений по различным критериям, и решение, приемлемо изображение или нет, принимается программой. Для того чтобы преодолеть проблемы телесного цвета стен и мебели, программа сочетает алгоритм обнаружения кожи с алгоритмом выявления движения, который сравнивает последовательные кадры и определяет движется ли предполагаемая кожа. При этом SafevChat отличает лицо (по глазам, носу и рту) от других частей тела.

По заявлениям разработчиков их программа работает лучше, чем коммерческий софт, обнаруживающий порнографические изображения, например PicBlock. Chatroulette начал использовать SafeVChat в начале этого месяца.