Meta використовуватиме ШІ, щоб ловити підлітків на брехні в Instagram

Meta запустила новий інструмент штучного інтелекту для виявлення неповнолітніх користувачів, які приховують свій справжній вік на платформі Instagram. Ця система автоматично перемикає таких користувачів на облікові записи з посиленими налаштуваннями конфіденційності, щоб зменшити їхню вразливість до небезпечного контенту.

Meta вже не раз зіштовхувалася з критикою батьків та законодавців США щодо недостатнього захисту підлітків, а також із судовими позовами від генеральних прокурорів різних штатів. Зараз новий інструмент на базі ШІ намагається поліпшити ситуацію, розподіляючи користувачів за двома віковими категоріями — старші чи молодші за 18 років. Для цього ШІ аналізує профільні дані, зокрема дати народження, повідомлення, списки підписників і вподобання.

Meta поступово вводить обмеження для неповнолітніх користувачів, щоб зменшити їхній доступ до ризикованого контенту. Зокрема, підліткам до 18 років буде обмежено доступ до певних матеріалів, а також зменшено коло користувачів, від яких вони можуть отримувати повідомлення. Таким чином, Meta намагається запобігти потенційно шкідливому впливу на молодих користувачів.

Крім того, новий ШІ Meta запобігає створенню кількох акаунтів з різними віковими даними, прив’язаними до однієї електронної адреси. Якщо підліток спробує змінити свій вік на дорослий, система вимагатиме підтвердження у вигляді офіційного документа або відеоселфі, яке аналізується за допомогою стороннього сервісу Yoti.

Для підлітків до 16 років Meta за замовчуванням залишає обмежувальні налаштування конфіденційності, які вони не можуть змінити без згоди батьків. Це допомагає підвищити безпеку молодших користувачів платформи та захистити їх від небажаного контенту.

Meta вже тривалий час перебуває під прицілом критики через питання конфіденційності й психологічного здоров’я підлітків на своїх платформах. Новий інструмент ШІ є спробою компанії розв’язати ці проблеми й зміцнити захист молодих користувачів від потенційних ризиків у соцмережах.