ChatGPT почав таємно маркувати свої тексти: що треба знати тим, хто користується нейромережею

ChatGPT почав таємно маркувати тексти, які він генерує. Розробники впровадили систему невидимих водяних знаків – спеціальних символів, які не помітні для людського ока, але легко виявляються спеціальними програмами. Ця новація спрямована головним чином проти студентів і школярів, які використовують штучний інтелект для написання есе та інших навчальних робіт. Тепер викладачі теоретично можуть перевірити, чи був текст створений людиною або нейромережею.

Ці невидимі символи являють собою спеціальні Unicode-коди (наприклад, нерозривного пробілу), які непомітні людському оку, але видимі в спеціальних редакторах. Наприклад, вони відображаються в популярному текстовому редакторі Sublime Text або в онлайн-інструментах.

У блозі Rumi (співробітники цієї компанії помітили це одними з перших) повідомляють, що ChatGPT став діяти вищеописаним чином лише в нових моделях o3 та o4-mini при генерації довгих відповідей (наприклад, на запит “напиши повне есе про Департамент освіти”). Але особистий досвід автора цієї новини дещо інший — невидимі символи вбудовуються і в короткі відповіді, якщо текст, що генерується, схожий на чітинг з боку користувача. Схоже, що зараз це працює лише з відповідями англійською мовою.

На даний момент розробники ChatGPT ніде не повідомляли про це нововведення — ймовірно, навмисно, щоб про нього знало якомога менше людей і, відповідно, такі водяні знаки не видалялися (а стираються вони в будь-якому текстовому редакторі). У Rumi вбачають це тимчасовим заходом з боку OpenAI, адже громадськість рано чи пізно масово дізнається про таку поведінку нейромереж, з якою легко боротися.