Один з користувачів, який тестував бета-версію iOS, несподівано зіткнувся з неприємною ситуацією. Під час використання функції Apple Intelligence, яка призначена для підвищення продуктивності, система згенерувала стислий виклад особистих повідомлень, що стосувалися розриву стосунків з його дівчиною. ШІ відобразив суть емоційної розмови дуже прямолінійно, надавши повідомлення з підписом: “Більше не разом, хоче забрати речі з квартири”.
Скриншот з результатами роботи Apple Intelligence швидко набув популярності після публікації в соціальних мережах. Користувачі активно обговорювали інцидент, що викликав багато запитань щодо доцільності автоматичного узагальнення чутливих тем, таких як розрив стосунків. Прямолінійний підхід ШІ до обробки особистих повідомлень змусив багатьох засумніватися в коректності алгоритмів та необхідності таких функцій.
Apple Intelligence розроблено для підвищення продуктивності, і в деяких випадках, наприклад, при обробці великої кількості непрочитаних повідомлень у групових чатах, він дійсно може бути корисним. Однак проблема виникає, коли йдеться про делікатні теми, що потребують більш обережного підходу до людських емоцій. Автоматичне узагальнення може порушувати емоційний комфорт користувачів, оскільки ШІ, на жаль, не завжди здатен враховувати контекст і особливості ситуації.
Це не перший випадок, коли Apple Intelligence потрапляє під критику. Раніше система вже демонструвала недоліки під час тестування, коли помилково позначала фішингові листи як пріоритетні, не вміючи відрізнити їх від справжніх повідомлень. Такі помилки свідчать про необхідність удосконалення алгоритмів і впровадження додаткових механізмів для покращення “емоційного інтелекту” системи.
Користувачі висловлюють сподівання, що Apple врахує критику та скоригує свої алгоритми, щоб зробити функцію більш чутливою до людських емоцій. Це може включати покращення обробки контексту, уникнення узагальнень чутливих тем і забезпечення більш обережного підходу до важливих особистих питань.