Зображення та тексти, створені або змінені генеративним ШІ, можуть впливати не лише на сприйняття інформації, а й на те, як люди запам’ятовують події. Дослідники MIT виявили, що після перегляду змінених ШІ фотографій учасники експерименту частіше неправильно згадували оригінальні зображення та водночас були впевненішими у своїх помилкових спогадах.
Під час експерименту добровольцям спочатку показували серію фотографій. Після перерви частина учасників знову бачила оригінальні знімки, тоді як іншим демонстрували версії, змінені за допомогою генеративного ШІ. Під час подальшої перевірки пам’яті друга група частіше відтворювала деталі, яких на початкових фотографіях не було.
Особливу увагу вчених привернула впевненість учасників у неправильних відповідях. Люди не просто помилялися, а могли сприймати змінені ШІ деталі як частину власних спогадів. Це узгоджується з давно відомою особливістю людської пам’яті: вона не є точним «записом» подій і може змінюватися під впливом нової інформації.
Окремою проблемою дослідники називають галюцинації генеративного ШІ — переконливо сформульовані, але фактично неправильні відповіді. Навіть якщо результат системи перевіряє людина, вона не завжди здатна помітити помилку. Якщо ж неправдива інформація повторюється або подається у правдоподібній формі, вона потенційно може впливати на подальші судження користувача.
Саме тому підхід «людина контролює ШІ» не є абсолютною гарантією правильності. Досвідчений фахівець також може пропустити неточність, особливо коли система видає її впевнено та разом із великою кількістю правильних даних. Це підвищує вимоги до перевірки інформації у сферах, де помилки можуть мати серйозні наслідки.
Дослідники наголошують, що проблема ставатиме актуальнішою зі збільшенням кількості ШІ-контенту та поширенням автономних агентів. Тому важливими залишаються позначення синтетичних матеріалів, перевірка першоджерел і обережне ставлення до контенту, автентичність якого неможливо підтвердити.
