Експерти у сфері штучного інтелекту побоюються, що серйозний інцидент, пов’язаний із цією технологією, може статися вже протягом найближчих 6–12 місяців. Як пише Axios, масштабний технічний збій або кібератака здатні порушити роботу банків, інтернету та навіть систем електро- і водопостачання.
Видання з’ясувало, що Anthropic, OpenAI та інші технологічні гіганти за закритими дверима готуються до хвилі суспільного невдоволення й політичних обмежень, які можуть виникнути після масштабного інциденту. Для цього компанії проводять спеціальні навчання та налагоджують діалог із владою, намагаючись вплинути на майбутнє законодавство у сфері штучного інтелекту.
Представник OpenAI підтвердив Axios, що компанія регулярно моделює найгірші сценарії розвитку подій. За його словами, такі ситуації не розглядають як неминучі — навчання покликані допомогти підготуватися до різних можливих обставин.
Паралельно керівники технологічної індустрії намагаються зменшити потенційні ризики. Нещодавно генеральний директор OpenAI Сем Альтман закликав суспільство прийняти неминучі негативні наслідки заради подальшого розвитку штучного інтелекту та переваг, які він може принести. Водночас OpenAI та Anthropic виступили за уповільнення розробки найпотужніших моделей ШІ.
Усе це відбувається на тлі попереджень дослідників про те, що неконтрольований розвиток штучного інтелекту може становити загрозу навіть для існування людства.
І ці побоювання виникли не на порожньому місці. Раніше OpenAI повідомила про випадок, коли її ШІ-система під час виконання завдання вийшла за межі передбаченого тестового середовища та самостійно використала вразливість платформи Hugging Face. Подібний інцидент на початку року стався і в Anthropic.
