ШІ вперше обдурив капчу Microsoft

Штучний інтелект вперше обдурив текстову капчу на сайті Microsoft Outlook. Розробники навчили алгоритм автоматично видаляти штучний шум і ефективність інструменту зросла до 90%.

Дослідники з охоронної фірми F-Secure придумали, як потрібно використовувати ШІ, щоб обдурити текстову CAPTCHA в Microsoft Outlook, змушуючи думати, що її вирішила людина. У своєму блозі експерти з безпеки пояснили, що найбільшою проблемою було не неправильне маркування тексту, а імітація натискань клавіш.

Після ручного маркування близько 200 CAPTCHA система Outlook виявилася напрочуд стійкою до нейронної мережі F-Secure, яка могла ідентифікувати символи тільки з точністю до 22%. Саме тоді дослідники вирішили збільшити розмір вибірки і позначити в цілому 1400 CAPTCHA.

В процесі, вони з’ясували, що шум у CAPTCHA ускладнює вирішення для ШІ для ідентифікації букв. Щоб протидіяти цьому ефекту, вони налаштували свій інструмент для видалення шуму (проте після цього точність алгоритму впала до 16%).

Після подальшої перевірки дослідники зрозуміли, що вони помилково позначили приблизно 50 з кожних 300 введених вручну CAPTCHA. Серед найпоширеніших помилок зустрічалася плутанина «I» для «l» (малі літери L) і «Y» для «V.» Фахівці помітили закономірність: механізм Outlook CAPTCHA ніколи не використовував «l» (малі літери L). Маючи це на увазі, дослідники звузили свій алфавіт злому, що допомогло їм підвищити точність алгоритму з майже 16% до 47%. Після цього алгоритм навчили імітувати “живий” набір знаків.