США, Великобританія та інші 16 країн підписали історичну угоду щодо безпечної розробки систем штучного інтелекту (ШІ). Документ, відомий як “Керівництво з розробки безпечних систем штучного інтелекту”, був оприлюднений 26 листопада і включає 20 сторінок.
Угода визначає ключові аспекти, яких повинні дотримуватися компанії, зайняті розробкою або використанням ШІ. Серед них — моніторинг систем на предмет зловживань, захист даних від підробки, контроль постачальників програмного забезпечення, та навчання персоналу ризикам кібербезпеки.
Хоча документ містить загальні рекомендації, відзначаються певні прогалини, такі як використання моделей генерації зображень та діпфейків. Серед підписантів — також провідні технологічні компанії, такі як OpenAI, Microsoft, Google, Anthropic і Scale AI.