За последние два года число жалоб на небезопасные действия собеседников со стороны пользователей «Авито» сократилось в 20 раз. Сервис уделяет огромное внимание развитию технологий, повышающих безопасность сделки, и созданию инструментов для удобства использования площадки. НЕВСКИЕ НОВОСТИ пообщались с директором департамента Trust&Safety Андреем Рыбинцевым о том, как ловко искусственный интеллект и команда модераторов отсеивают нарушающие правила площадки объявления, как дорого компании обходится безопасность пользователей и какие технологии «Авито» стала использовать первой в России и в мире.
— Мир технологий сейчас стремительно меняется. В пандемию многие сферы бизнеса перешли в онлайн. Как эти тенденции повлияли на платформу, какие новые вызовы появились перед компанией и как она с ними справляется? «Авито» уже 15 лет, и все эти годы компания стремительно развивается и растет. Такие события, как пандемия, в каком-то смысле этот рост еще и ускоряют. Мы заметили, что с начала пандемии к нам стали приходить еще больше новых пользователей, чем было до этого. Большая часть новичков — это те, кто не имеет большого опыта заключения сделок в онлайне. Потому для нас особенно важной стала задача сделать продукт удобным и понятным и при этом заниматься обучением, объяснять, что такое вообще собственная безопасность и как заключать сделки в Интернете. — Как вы адаптируетесь, какие меры предпринимаете против недобросовестных пользователей, которые появляются на платформе? Мы работаем с двух сторон, и ключевое, что пытаемся сделать, — чтобы хорошие пользователи, которые приходят на площадку, могли заключить сделку с другими хорошими пользователями. Для этого мы находим и поощряем тех, кто ведет себя честно, — таких у нас абсолютное большинство. Более того, даже среди хороших пользователей можно выделиться и стать лучшим, если пройти дополнительные проверки. Мы называем их у себя траст-факторы.Например, есть подтверждение подлинности профиля по документам, благодаря которому другие пользователи видят специальный значок. Он означает, что за этим аккаунтом стоит живой человек, который предоставил «Авито» свои документы. Мы их никому не показываем, но сам факт, что пользователь готов был показать их нам, говорит о том, что человек настоящий, это не бот.
У нас есть разного рода проверки, за которые можно получить и другие цифровые значки. В итоге это позволяет покупателям, ориентируясь на траст-факторы, находить хороших продавцов. А продавцам, конечно, выгодно вести себя честно, получать траст-факторы, чтобы у них было больше покупателей. Вот тот же значок, который я привел в пример, — «документы проверены» привлекает на 20 % больше внимания покупателей, чем будет при его отсутствии. Помимо значков, человек может изучить историю профиля, отметки о сделках, совершенных с «Авито Доставкой», которая работает по принципу безопасной сделки, прочитать отзывы о продавце, увидеть его рейтинг. Профили с высоким рейтингом показываются выше в поисковой выдаче — так мы поощряем честных продавцов и упрощаем выбор для покупателя.
Это про хорошие стороны. Естественно, одним пряником не обойтись, поэтому подход наш в совокупности — это кнут и пряник. Мы делаем так, чтобы у тех нехороших пользователей, которые задумали что-то плохое, не было шанса это плохое сделать. И для этого у нас есть модерация. Премодерация обеспечивает проверку всего контента пользователей до того, как они что-то разместили. Она устроена следующим образом: мы с помощью алгоритмов машинного обучения проверяем вообще все, что у нас есть на площадке, — весь контент, тексты, картинки, все пользовательские действия, и пытаемся найти подозрительные паттерны. Если их нет, то все хорошо. Если однозначно плохо, то система такую активность блокирует. Когда какой-то сложный случай, его проверяет дополнительная команда экспертов. Таким образом, с двухэтапной проверкой у негодяев просто нет шансов, потому что плохой контент, плохие аккаунты блокируются в эти два шага. — А если пользователь уже был замечен в каких-то недобросовестных действиях, ранее его объявления были отклонены, может ли он дальше использовать платформу? Это зависит от тяжести нарушения. Если пользователь просто что-то перепутал, то это можно легко исправить. В частности, встречаются ерундовые нарушения в духе «поставил не ту категорию». Мы стараемся поменять ее сами или, если по каким-то причинам не можем этого сделать, даем ему советы: пожалуйста, зайди в личный кабинет и измени вот так. Бывают нарушения, которые можно легко устранить. Например, в объявлении самое важное — это контактная информация, и некоторые новички не знают, что номер телефона у нас располагается в отдельном поле, и вообще мы защищаем номер телефона, заменяя его. И они пишут номер телефона прямо в текст. Так делать нельзя. Поэтому мы отклоняем и просим убрать номер телефона из текста. Подобные маленькие нарушения пользователи могут исправить сами, а бывают нарушения более серьезные. Например, некоторые недобросовестные пользователи хотят получить больше просмотров и пытаются разместить одно и то же 10-50 раз. Естественно, пользователям не понравится видеть 50 одинаковых объявлений, они хотят разнообразия товаров от разных продавцов. И даже если товар один и тот же, они хотят видеть его один раз, а не 50. Эти нарушения исправить нельзя: если мы их выявляем, то блокируем. Но не пользователя, а конкретное объявление. Что касается самых плохих случаев, когда пользователи пытаются совершать недобросовестные активности (кого-то обмануть), — такие аккаунты мы блокируем навсегда. — Есть ли у вас какое-либо сотрудничество с правоохранительными органами насчет самых недобросовестных пользователей? Мы советуем всем, кто стал жертвой каких-либо недобросовестных активностей, обращаться в органы. Дальше мы готовы предоставлять информацию по соответствующему официальному запросу от органов. — Расскажите об инновационных технологиях, которые компания, возможно, стала использовать первой в мире или в России, и как вообще устроена информационная безопасность на «Авито». Как я уже говорил, с одной стороны, мы пытаемся поощрять хорошее поведение, с другой стороны, предотвращать плохое. Чтобы отличить одно от другого, нам нужны технологии анализа данных, которые помогают понимать и анализировать пользовательские действия. Мы используем технологии на основе машинного обучения, и на наших объемах это реально сложные технологии, обрабатывающие, например, от 5 до 10 миллионов объявлений в день, около 10 миллионов картинок в день, разных текстов, параметров и всего прочего. То есть у нас такая промышленная система на основе машинного обучения, которая обрабатывает разные типы данных. Кроме технологий, спрятанных «под капотом», мы стараемся предоставлять еще и сервисы для пользователей, которые тоже в каком-то смысле являются инновационными, уникальными даже во всем мире, не только в России. Например, мы единственная площадка объявлений в мире, которая абсолютно каждому частному пользователю предоставляет защищенный номер. Это позволяет нам скрыть настоящий номер пользователя от других участников площадки и таким образом защитить от спама, нежелательных звонков, утечки телефонов в третьи руки, что может быть небезопасно. Настоящий номер пользователя нашей площадки не виден, таким образом, вы можете заключать сделки, не переживая, что вы, например, выставили на продажу телефон, а потом вам будут названивать или писать в WhatsApp без вашего разрешения. На «Авито» сервис распространяется на миллионы людей, в таких масштабах этой технологии нет ни у кого. — Расскажите, пожалуйста, подробнее о команде, которая всем этим занимается здесь, в петербургском офисе. Кто эти люди, что именно они делают, сколько их? Команда, которая занимается безопасностью пользователей, делится на две большие части. Одна — IT-команда — находится в московском офисе и создает технологии для проверки происходящего на площадке и продукты для пользователей сервиса — то, с чем пользователи реально взаимодействуют. Это в том числе траст-факторы, о которых я сегодня говорил, — проверка документов и выдача соответствующего значка или дополнительные проверки, чтобы получить другой значок — «Проверенный партнер». В офисе в Санкт-Петербурге у нас находится команда модерации, которая занимается расследованием сложных ситуаций. Это сотрудники, к которым попадают на анализ объявления, или пользователи, которых мы в чем-то заподозрили. Когда система отметила триггеры подозрительного поведения и не смогла решить сама, есть ли нарушение, случай считается сложным и требует проверки экспертов. А вообще в целом в компании «Авито» можно работать удаленно из любой точки России. — Сколько компания инвестирует в информационную безопасность? Информационная безопасность и безопасность пользователей — это самый главный приоритет команды «Авито». В нашей модели бизнеса обеспечить доверие между пользователями и их безопасность — это очень сложная задача, поэтому команда, занимающаяся безопасностью, самая большая в «Авито», и мы как компания инвестируем в это крупные суммы денег. Это направление обходится нам от трех до четырех миллиардов рублей в год суммарно — и на команду разработки, и на разработку алгоритмов, и на команду экспертов, которая проверяет сложные случаи, и на все остальное. — Как вы думаете, как дальше будет развиваться сфера онлайн-сделок, какие новые вызовы могут возникнуть? В целом мир продолжает двигаться в онлайн, но на самом деле, как бы все ни говорили о переходе в онлайн, он от офлайна неотделим. Потому что хоть вы и заключаете сделку в Интернете, но за реальным товаром приходите в реальном мире. Поэтому мы в «Авито» развиваем продукты, которые связывают онлайн и офлайн. Вы можете среди свыше 100 миллионов объявлений на нашей площадке найти то, которое вам нравится, и для большинства товаров доступна опция доставки. Вы можете воспользоваться доставкой, которая безопасна и удобна, и практически из любой точки России придет товар туда, куда вам нужно. При этом вы будете уверены в том, что все пройдет безопасно: вы не потеряете ни деньги, ни товар, и, если что-то пойдет не так, вы можете обратиться за компенсацией. Но в целом вам, скорее всего, даже не придется этого делать: по нашей статистике, процент случаев, когда в ходе транспортировки что-то идет не так, незначителен. Все это позволяет состыковать онлайн-опыт с выбором по всей географии России с офлайн удобным получением в ближайшем пункте выдачи заказа. Вот такие сервисы на стыке онлайн- и офлайн-технологий, обеспечивающие удобство и безопасность, я думаю, это и есть будущее. То есть все будет максимально быстрым, удобным, система хорошо персонализируется под вас — знает, что вам предложить и что вам нужно, и потом максимально быстро и удобно можно получить то, что вы хотели. — При каких условиях можно достигнуть абсолютной безопасности сделки, и что здесь зависит от самого пользователя?
Абсолютная безопасность сделки — это наша мечта, к которой мы стремимся. А в моменте мы стараемся ставить себе цели, чтобы сделать любого рода обман на нашей площадке максимально невыгодным — то есть стараемся разрушить юнит-экономику негодяев. Если недобросовестным пользователям придется потратить больше сил и ресурсов, чем они могут получить, потенциально кого-то обманув, то они просто не будут приходить на нашу площадку. И это ровно то, к чему мы стремимся.
Уже сейчас, если следовать нашим советам и рекомендациям и не выходить за рамки платформы, можно заключать сделки абсолютно безопасно без всяких рисков. Но нам очень важно, чтобы все наши пользователи знали, как это правильно делать.
Поэтому мы очень много сил вкладываем в обучение наших пользователей. Мы рассказываем им, как пользоваться нашим продуктом, от момента, когда они приходят на площадку до завершения сделки. Например, мы выпускаем разного рода контекстные материалы — в самом продукте даем подсказки: делай так и будешь защищен. А еще делаем общие образовательные материалы: наверняка многие видели ролик с Леонидом Агутиным, где мы рассказываем про простые правила безопасности в Интернете. — А сейчас Вы могли бы назвать основные моменты, на которые нужно обратить внимание пользователям? Мы на «Авито» делаем так, чтобы в несколько простых шагов можно было заключить сделку абсолютно безопасно. То есть выбирать продавца, ориентируясь на траст-факторы, общаться с ним, договариваться в нашем мессенджере и, если это возможно, заключать в итоге сделку через нашу «Авито Доставку». В таком случае пользователь будет абсолютно защищен. Что касается ошибок, то чаще всего они бывают двух типов. Первое — люди разглашают свои персональные данные там, где не следует этого делать. Напоминаю еще раз, что нельзя сообщать коды из СМС, пароли, код безопасности карты и т.д. — эти вещи должны быть только у вас и ни у кого больше, никто никогда не должен просить их у вас. Второе — пользователи отправляют предоплату непонятно кому. Для того чтобы вы не оказывались в таких ситуациях, например, мы развиваем безопасную сделку, где можно купить товар, оставив деньги на защищенном счете. Так они будут в сохранности, и обе стороны будут уверены в безопасности сделки.
Свежие комментарии