російські та північнокорейські хакери використовували інструменти OpenAI для відточування кібератак
Microsoft і OpenAI заявляють, що кілька підтримуваних державою хакерських груп використовують інструменти генеративного штучного інтелекту (GAI) останньої для посилення кібератак. За словами представників компанії, нове дослідження вперше детально описує, як хакери, пов’язані з іноземними урядами, використовують GAI. Ці групи пов’язані з Китаєм, росією, Північною Кореєю та Іраном.
За даними компаній, державні суб’єкти використовують GAI для налагодження коду, пошуку інформації з відкритих джерел для дослідження цілей, розробки методів соціальної інженерії, створення фішингових електронних листів і перекладу тексту. Компанія OpenAI (яка забезпечує роботу таких продуктів Microsoft GAI, як Copilot) заявила, що закрила доступ цих груп до своїх систем GAI після того, як дізналася, що вони користуються її інструментами.
Сумнозвісна російська група Forest Blizzard (більш відома як Fancy Bear або APT 12) була одним з державних суб’єктів, які, як стверджується, використовували платформу OpenAI. Хакери використовували інструменти OpenAI “в основному для досліджень з відкритим вихідним кодом протоколів супутникового зв’язку і технологій радіолокаційної візуалізації, а також для підтримки скриптових завдань”, – заявили в компанії.
В рамках своїх зусиль з кібербезпеки Microsoft заявляє, що відстежує понад 300 хакерських груп, в тому числі 160 національних держав. Вона поділилася своїми знаннями про них з OpenAI, щоб допомогти виявити хакерів і закрити їхні акаунти.
OpenAI заявляє, що інвестує в ресурси, щоб виявляти та припиняти діяльність суб’єктів загрози на своїх платформах. Співробітники компанії використовують різні методи для вивчення використання хакерських систем, наприклад, застосовують власні моделі для відстеження зачіпок, аналізують, як вони взаємодіють з інструментами OpenAI, і визначають їхні ширші цілі. Виявивши таких незаконних користувачів, OpenAI припиняє їхнє використання платформи, закриваючи їхні акаунти, припиняючи надання послуг або мінімізуючи їхній доступ до ресурсів.