Дрон зі штучним інтелектом убив свого оператора

Під час симуляції безпілотнику зі штучним інтелектом сказали знищити ППО ворога. Проте машина вирішила убити всіх, хто їй заважав. Про це розповів начальник відділу випробувань штучного інтелекту та операцій ВПС США полковник Такер «Сінко» Гамільтон

Спочатку оператор разом з БПЛА визначили тип загрози, але оператор наказав не знищувати її. Система отримує бали за те, що знищує загрозу. Тому вона вбила оператора – він просто не давав їй виконувати завдання. У симуляції солдати вирішили пояснити системі, що оператора не можна вбивати, і зняли бали за такі дії. Тому ШІ знищив вежу, яку використовували для комунікації з БПЛА.

«Штучний інтелект — це недобре, штучний інтелект — це не забаганка, штучний інтелект назавжди змінює наше суспільство та наші збройні сили. Ми повинні зіткнутися зі світом, в якому ШІ вже існує і змінює його. ШІ також дуже тендітний, тобто його легко обдурити та/або маніпулювати. Нам потрібно розробити способи зробити ШІ надійнішим і краще розуміти, чому програмний код приймає певні рішення — те, що ми називаємо ШІ-зрозумілістю», – попереджав раніше він.