Нещодавно з’ясувалося, що компанія Apple (точно так само, втім, як Amazon, Google, Microsoft та інші) довіряє прослуховування розмов користувачів з голосовим помічникам стороннім людям. Це викликало невдоволення з боку користувачів, тому вона вирішила відмовитися від послуг підрядників.
Роботу втратило кілька сотень жителів Європи, які займалися прослуховуванням розмов з Siri, допомагаючи коригувати систему розпізнавання мови і збільшувати точність відповідей асистента. З початку серпня ці підрядники перебували в оплачуваній відпустці. У блозі Apple розповідається, що відтепер ця робота буде виконуватися всередині компанії (автоматичними системами або її співробітниками). Це дозволить уникнути витоку конфіденційної інформації.
Відомо, що стороннім людям потрапляли не тільки цілеспрямовані запити до Siri, але також записи, зроблені випадково і містять в тому числі конфіденційну інформацію. Apple тоді повідомила, що підрядники аналізують вкрай невелику частину запитів і команд для підвищення якості роботи голосового помічника. Записи тривають не більше декількох секунд і знеособлені, тобто не дозволяють ідентифікувати конкретних користувачів.
У блозі Apple пояснюється, для чого компанії необхідно прослуховувати розмови з Siri:
Щоб точніше виконувати ваші індивідуальні запити, Siri збирає і зберігає певну інформацію про ваш пристрій. Наприклад, коли Siri зустрічає рідкісне ім’я, для підтвердження його точності може використовуватися список імен з ваших контактів.
Siri також використовує дані про ваші взаємодії, в тому числі аудіозаписи ваших запитів і їх автоматичні розшифровки. Іноді Apple використовує ці дані в процесі машинного навчання, яке покращує роботу Siri.
До того як ми призупинили калібрування, воно торкалася невеликої частини (менш як 0,2 відсотка) аудіозаписів запитів до Siri і їх автоматичних розшифровок. Калібрування допомагало виміряти точність відповідей Siri і підвищити їх якість. Наприклад, чи дійсно користувач хотів викликати Siri? Наскільки точно був розпізнаний запит? Чи відповідала відповідь Siri вимовленому запиту?
Також розказано про те, які зміни вносяться в цю систему:
Вивчивши методи роботи Siri, ми з’ясували, що вони не в повній мірі відповідають нашим високим стандартам, і приносимо за це вибачення. Як вже було оголошено, ми зупинили програму калібрування Siri. Ця програма відновиться найближчої осені разом з випуском оновлень ПО, але в неї будуть внесені наступні зміни.
По-перше, за замовчуванням ми більше не будемо зберігати аудіозаписи взаємодій з Siri. Для поліпшення Siri ми будемо використовувати автоматичні розшифровки.
По-друге, користувачі зможуть відмовитися від допомоги в поліпшенні Siri шляхом відправки своїх голосових запитів. Ми сподіваємося, що багато користувачів вирішать продовжити свою допомогу в поліпшенні Siri, знаючи про те, що Apple з повагою ставиться до їх даних і застосовує надійні технології захисту. Користувачі, які погодилися надати допомогу, зможуть відмовитися від неї в будь-який момент.
По-третє, якщо користувач погодиться брати участь у програмі, аудіозаписи його взаємодій з Siri будуть доступні тільки співробітникам Apple. Наша команда буде при першій можливості видаляти будь-які записи, які були помилково сприйняті як виклики Siri.