Midjourney закрила безкоштовний доступ до своєї нейромережі через надмірне зловживання

Компанія-розробник Midjourney закрила безкоштовний доступ до своєї нейромережі, що дозволяє генерувати зображення за текстовим описом. Тепер залишається лише платний тариф за 10 доларів на місяць.

Генеральний директор Midjourney Девід Хольц зазначив у Discord, що компанія згортає безкоштовну пробну версію через «надзвичайно високий попит та зловживання». За словами Хольца, нові заходи безпеки виявилися недостатніми для запобігання некоректному використанню ШІ.

Як пояснює The Washington Post, останніми тижнями Midjourney опинилася в центрі небажаної уваги. Користувачі багато хто почав використовувати ШІ для створення дипфейків з арештом Дональда Трампа та папою римським Франциском у модному пуховику. І хоча зображення були швидко ідентифіковані як підроблені, є побоювання, що зловмисники можуть використовувати Midjourney та аналогічні генератори для поширення дезінформації.

Midjourney визнає проблеми зі встановленням політик щодо контенту. У 2022 році Хольц виправдав заборону на зображення китайського лідера Сі Цзіньпіна, заявивши, що його команда хоче лише «мінімізувати драму», і що будь-який доступ у Китаї важливіший за дозвіл сатиричного контенту.

Розробники аналогічних рішень вже вдалися до суворих правил, щоб запобігти подібним інцидентам. OpenAI, наприклад, блокує будь-які зображення поточних політичних подій, теорій змови та політиків. Компанія також забороняє контент сексуального характеру та зображення насильства.

Зараз розробники Midjourney сподіваються покращити модерацію, щоб ретельніше виявляти зловживання.