Facebook використовує ботів, щоб зрозуміти, як запобігти “поганій” поведінці користувачів

Facebook розробляє нові технології, які повинні допомогти зупинити переслідування в Мережі. У тестовому середовищі Web-Enabled Simulation (WES) використовується армія ботів, запрограмованих на імітацію негативної людської поведінки, для яких інженери Facebook намагаються підібрати найкращі контрзаходи.

У WES є три ключові аспекти, заявив дослідник Facebook Марк Харман. По-перше, використовується машинне навчання для тренування ботів, що дозволяє імітувати реальну поведінку людей в Facebook. По-друге, WES може автоматизувати взаємодію ботів у великих масштабах (від тисяч до мільйонів). І по-третє, розгортання ботів проводиться на основі поточного стану соціальної мережі, що дозволяє їм взаємодіяти як між собою, так і з реальним контентом в Facebook. При цьому тестове середовище все ж відокремлене від реальних користувачів.

У середовищі тестування, відомому як WW, боти купують і продають заборонені предмети, такі як зброя і наркотики. Бот може користуватися Facebook як звичайна людина, проводячи пошук і відвідуючи різні сторінки. Інженери також стежать за тим, щоб вони не змогли обійти заходи безпеки.

В результаті тестів повинні бути вироблені поведінкові шаблони і способи, які не дадуть людям можливості порушувати стандарти спільноти (чи принаймні ускладнять цей процес).